در یک کنفرانس قضایی در منطقه جنوب هند، جمعی از قضات ارشد نسبت به استفادهٔ بدون نظارت و کنترل از هوش مصنوعی در سیستم قضایی هشدار دادند؛ هشداری که به‌طور ویژه بر خطر «استنادهای خیالی» یا Hallucinated Citations تأکید داشت پدیده‌ای که در آن مدل‌های هوش مصنوعی منابع و احکام حقوقی نادرست یا ساختگی تولید می‌کنند.

به گزارش The Times of India، مسئولان قضایی اعلام کردند که هوش مصنوعی اگرچه می‌تواند سرعت تحلیل پرونده‌ها و بررسی اسناد را افزایش دهد، اما اتکا به آن بدون کنترل انسانی می‌تواند به صدور احکام اشتباه، تضییع حقوق طرفین دعوا و آسیب به اعتماد عمومی نسبت به نظام قضایی منجر شود.

نگرانی اصلی: تولید استنادهای جعلی در متون حقوقی

قضات حاضر در این کنفرانس توضیح دادند که سیستم‌های هوش مصنوعی گاهی به دلیل ضعف در فهم عمیق مفاهیم حقوقی، مواد قانونی، آرای قضایی یا دادنامه‌هایی را پیشنهاد می‌کنند که وجود خارجی ندارند. این پدیده در سال ۲۰۲۴ چندین‌بار در کشورهای مختلف مشاهده شد و حتی باعث مجازات برخی وکلا شده بود.

به گفته کارشناسان حاضر، مسئلهٔ اصلی این است که متن تولیدشده توسط مدل‌های زبانی ظاهری کاملاً حرفه‌ای و معتبر دارد، و همین باعث می‌شود کاربران، به‌ویژه وکلای تازه‌کار یا قضاتی که از ابزارهای دیجیتال استفاده می‌کنند، فریب دقت ظاهری متن را بخورند.

توصیه قضات: استفاده هوشمندانه و همراه با نظارت

قضات تأکید کردند که هوش مصنوعی باید تنها یک ابزار کمکی باشد، نه مرجع تشخیص یا تحلیل نهایی. در همین راستا، سه توصیه کلیدی مطرح شد:

1. صحت‌سنجی دستی (Manual Verification) تمامی استنادات و مواد قانونی تولیدشده توسط AI

2. آموزش تخصصی برای قضات و وکلا جهت استفاده ایمن و آگاهانه از ابزارهای هوش مصنوعی

3. ایجاد چارچوب‌های نظارتی و اخلاقی تا از ورود اطلاعات غلط به روند رسیدگی جلوگیری شود

اهمیت این هشدار برای آینده عدالت دیجیتال

این هشدار زمانی مطرح می‌شود که بسیاری از کشورها مانند هند در حال بررسی استفاده گسترده از هوش مصنوعی در مدیریت پرونده‌ها، تحلیل شواهد و حتی پیش‌بینی احکام هستند. اما طبق نظر سخنرانان، تسریع دادرسی نباید به بهای از بین رفتن صحت و عدالت باشد.

کارشناسان معتقدند اگرچه هوش مصنوعی می‌تواند نقش بزرگ و مثبتی در آیندهٔ عدالت ایفا کند، اما بدون شفافیت، نظارت انسانی و قوانین مشخص، خطر خطاهای سیستماتیک کاملاً واقعی است.


برای مشاهده جدیدترین اخبار، به پایگاه خبری هوش مصنوعی ایران مراجعه کنید.