قاضی فدرال آمریکا با اشاره‌ای جنجالی در رأی خود اعلام کرد که برخی مأموران مهاجرتی برای نوشتن گزارش‌های استفاده از زور (Use-of-Force Report) از هوش مصنوعی کمک گرفته‌اند. این اقدام به‌دلیل احتمال خطا، نقض حریم خصوصی و ایجاد شکاف در اعتماد عمومی، با انتقاد شدید کارشناسان حقوق، امنیت و اخلاق مواجه شده است. اکنون موضوع به بحثی ملی تبدیل شده که آیا سیستم‌های انتظامی و قضایی آمادگی کار با ابزارهای هوش مصنوعی را دارند یا خیر.

یک پاورقی کوچک، یک مسئله بزرگ

در پرونده‌ای که در ظاهر بسیار ساده به نظر می‌رسید، قاضی فدرال Sara Ellis مواردی را در پاورقی رأی خود ذکر کرد که تأثیر آن فراتر از همان پرونده بود. او تأیید کرد که یک مأمور مهاجرت، پس از ثبت چند تصویر و یادداشت کوتاه، با استفاده از ChatGPT نسخه اولیه گزارش رسمی «استفاده از زور» را نوشته است.

قاضی Ellis این روند را «خطرناک»، «غیرقابل اتکا» و «مخالف با استانداردهای مستندسازی قانونی» توصیف کرد و آن را نشانه‌ای از نبود سیاست مشخص درباره استفاده از AI در نهادهای دولتی دانست.

علت‌های نگرانی قاضی و کارشناسان

۱. عدم تطابق میان رویداد و گزارش رسمی

گزارش‌های پلیسی به‌خصوص در موارد حساس مانند برخورد فیزیکی با یک فرد، باید علاوه بر جزئیات، دیدگاه شخصی مأمور را نیز منتقل کنند.
در این مورد، تصاویر دوربین بدن مأمور (Body-Cam) با روایت نهایی گزارش — که با هوش مصنوعی نوشته شده بود — کاملاً منطبق نبود.

چنین اختلافی می‌تواند:

• روند دادرسی را خدشه‌دار کند،
• به نفع یا ضرر یک طرف تمام شود،
• و باعث ایجاد شبهه در درستی اسناد رسمی گردد.

۲. خطر جدی برای حریم خصوصی و امنیت داده

وقتی مأمور بدون استفاده از نسخه‌های سازمانی، تصاویر محرمانه را به یک پلتفرم عمومی می‌فرستد، کنترل آن داده‌ها از بین می‌رود.
این موضوع به‌ویژه در پرونده‌های مهاجرتی و امنیتی اهمیت زیادی دارد؛ چرا که چهره افراد، صحنه‌های درگیری، یا اطلاعات مکانی ممکن است در اینترنت قابل بازیابی یا سوءاستفاده شوند.

۳. نبود قوانین، چارچوب و آموزش رسمی

بسیاری از ادارات پلیس هنوز دستورالعملی درباره اینکه:

• چه نوع داده‌ای اجازه پردازش با AI دارد؟
• نسخه عمومی استفاده شود یا سازمانی؟
• آیا باید گزارش برچسب «AI-generated» داشته باشد؟

ندارند.
این خلأ باعث شده برخی مأموران از روی راحتی یا کمبود زمان به ابزارهایی مثل ChatGPT پناه ببرند، بدون آنکه عواقب آن را بدانند.

پیامدهای احتمالی برای دستگاه قضا و نیروی انتظامی

کارشناسان معتقدند این اتفاق تنها یک مورد محدود نیست؛ بلکه زنگ خطری برای آینده است:

• افزایش خطا در تصمیم‌گیری قضایی

قاضی ممکن است بر اساس گزارشی که بخشی از آن با AI نوشته شده تصمیم بگیرد، در حالی که مدل هوش مصنوعی ممکن است از روی داده‌های ناکامل یا اشتباه، نتیجه‌گیری کرده باشد.

• کاهش اعتماد عمومی

از آنجا که گزارش‌های پلیسی نقش مستقیم در بازداشت، محاکمه و صدور حکم دارند، کوچک‌ترین خدشه در صحت آن‌ها می‌تواند باعث بی‌اعتمادی گسترده جامعه نسبت به سیستم عدالت شود.

• افزایش احتمال سوگیری الگوریتمی (Algorithmic Bias)

AI بر اساس داده‌های آموزش‌دیده تولید محتوا می‌کند و ممکن است دقیقاً همان سوگیری‌های موجود در سیستم را — یا حتی بیشتر — تکرار کند.

واکنش گسترده متخصصان

بسیاری از متخصصان امنیت، حقوق و اخلاق در روزهای اخیر نسبت به این موضوع واکنش نشان داده‌اند.
«Ian Adams»، استاد جرم‌­شناسی، این روش را «ساده‌سازی خطرناک وظیفه‌ای جدی» می‌داند و معتقد است:

«گزارش پلیسی باید روایت انسانی داشته باشد، نه نتیجه یک مدل زبانی.»

در مقابل، برخی متخصصان فناوری می‌گویند ابزارهای هوش مصنوعی می‌توانند به کاهش زمان گزارش‌نویسی و بالا بردن دقت کمک کنند — البته تنها در صورتی که مدل‌ها، داده‌ها و محیط استفاده، کاملاً امن و کنترل‌شده باشند.

جمع‌بندی

این اتفاق نشان داد که استفاده از هوش مصنوعی در سیستم‌های حساس مانند پلیس و دادگاه نیازمند:

• قانون‌گذاری دقیق،
• شفافیت عملیاتی،
• آموزش مأموران،
• و زیرساخت امن داده

است.

در غیر این صورت، AI به‌جای کمک، می‌تواند بحران‌های جدیدی در اعتماد، امنیت، و عدالت ایجاد کند.