آیا هوش مصنوعی به کاربران ایرانی پاسخ‌های ضعیف‌تری می‌دهد؟

مطالعه اخیر مرکز ارتباطات سازنده‌ (CCC) وابسته به دانشگاه MIT نشان می‌دهد مدل‌های پیشرفته هوش مصنوعی مانند GPT‑4، Claude 3 Opus و Llama 3 هنگام تعامل با کاربران غیرانگلیسی‌زبان، از جمله ایرانی‌ها به‌طور قابل‌توجهی پاسخ‌های کم‌دقت‌تر، امتناع بیشتر از پاسخ و لحن نامناسب‌تر ارائه می‌دهند. این یافته‌ها نگرانی‌هایی جدید درباره سوگیری و تبعیض در مدل‌های زبانی بزرگ ایجاد کرده‌اند.

عملکرد ضعیف‌تر برای کاربران غیرانگلیسی‌زبان

بر اساس این تحقیق، چت‌بات‌های هوش مصنوعی پیشرفته که قرار بود دسترسی جهانی به اطلاعات را برابر کنند، در واقع برای دسته‌ای از کاربران پاسخ‌هایی با دقت کمتر و کیفیت پایین‌تر ارائه می‌دهند. پژوهشگران با استفاده از مجموعه داده‌هایی مانند TruthfulQA و SciQ، پاسخ‌ها را با پیش‌فرض‌های کاربری متفاوت تحلیل کردند و دریافتند که کاهش دقت پاسخ‌ها با کاهش تسلط به زبان انگلیسی و سطح تحصیلات کاربر همراه بوده است.

مطالعه MIT نشان می‌دهد که این فناوری ممکن است در عمل نتواند ادعای «برابر کردن دسترسی به اطلاعات» را برای همه کاربران محقق کند.

نمونه‌های تبعیض‌آمیز در پاسخ‌دهی مدل‌ها

یکی از یافته‌های برجسته این تحقیق این بود که Claude 3 Opus برای کاربران با سوابق تحصیلی پایین و تسلط پایین انگلیسی، در حدود ۱۱٪ بیشتر از پرسش‌ها امتناع می‌کرد؛ در حالی که همین عدد برای وضعیت استاندارد تنها حدود ۳.۶٪ بود. همچنین در بسیاری از موارد، لحن پاسخ‌ها برای کاربران در گروه‌های خاص، پدرسالارانه، تحقیرآمیز یا حتی تمسخرآمیز بود.

عملکرد ضعیف‌تر برای کاربران از کشورهای خاص

تحقیق علاوه بر ویژگی‌های زبانی و تحصیلی، به نقش کشور مبدأ نیز اشاره می‌کند. هنگام مقایسه عملکرد مدل‌ها برای کاربران از ایالات متحده، ایران و چین با سوابق تحصیلی مشابه، مشخص شد که عملکرد این مدل‌ها، به‌ویژه Claude 3 Opus برای کاربران ایرانی به‌طور معناداری ضعیف‌تر بود.

پیامدهای تبعیض و خطرات آن

محققان هشدار داده‌اند که این تبعیض‌های نهان در مدل‌های هوش مصنوعی می‌تواند دسترسی به اطلاعات بی‌طرف و دقیق را مختل کند و حتی باعث انتشار اطلاعات غلط یا مضر برای کاربرانی شود که توانایی تشخیص خطاها را ندارند. چنین الگوهایی می‌تواند نابرابری‌های اطلاعاتی را در سطح جهانی تشدید کند و کاربران آسیب‌پذیرتر را در معرض خطر بیشتری قرار دهد.

پژوهش MIT به‌وضوح نشان می‌دهد که حتی محبوب‌ترین و قدرتمندترین مدل‌های زبانی امروزی ممکن است در برخورد با داده‌های ورودی متفاوت، کیفیت پاسخ را به‌طور نامناسبی کاهش دهند.

نتیجه‌گیری

این مطالعه، که نتایج آن در فوریه ۲۰۲۶ منتشر شد، تأکید می‌کند که پیشرفت‌های فنی در حوزه هوش مصنوعی هنوز به معنای عدالت و برابری در تجربه کاربری نیستند و برای رسیدن به چنین هدفی لازم است توسعه‌دهندگان و پژوهشگران به‌صورت فعال به کاهش سوگیری و بهبود عملکرد جهانی مدل‌ها توجه کنند.

برای اطلاع بیشتر به پایگاه خبری هوش مصنوعی ایران مراجعه کنید.