نتایج یک مطالعه جدید در بریتانیا نشان می‌دهد چت‌بات‌های هوش مصنوعی که برای ارائه اطلاعات مالی، بیمه‌ای و مالیاتی طراحی شده‌اند، در بسیاری از پاسخ‌های خود دچار خطا، عدم قطعیت و حتی ارائه توصیه‌های گمراه‌کننده می‌شوند. این گزارش زنگ خطر جدی برای نهادهای نظارتی و مصرف‌کنندگانی است که به‌دنبال دریافت مشاوره فوری و کم‌هزینه از ابزارهای مبتنی بر هوش مصنوعی هستند.

جزئیات مطالعه

این تحقیق که توسط یک گروه متخصص در حوزه خدمات مالی انجام شده، عملکرد چندین چت‌بات هوش مصنوعی محبوب را در پاسخ به پرسش‌هایی درباره سرمایه‌گذاری، بازنشستگی، بیمه، و قوانین مالیاتی بررسی کرده است.
بر اساس یافته‌های این مطالعه:

• بیش از نیمی از پاسخ‌ها شامل اطلاعات نادرست یا ناقص بوده‌اند.

• برخی از چت‌بات‌ها نظرات کاملاً اشتباه درباره قوانین مالیاتی بریتانیا ارائه داده‌اند.

• تعدادی از مدل‌ها در مورد سرمایه‌گذاری‌های پرریسک، توصیه‌هایی با قطعیت بالا صادر کرده‌اند؛ کاری که حتی مشاوران مالی انسانی بدون بررسی‌های جدی مجاز به انجام آن نیستند.

• در مواردی، چت‌بات‌ها توصیه‌هایی داده‌اند که اگر کاربر به آن عمل کند، ممکن است دچار خسارت مالی قابل توجه شود.

محققان هشدار دادند که ماهیت «مطمئن و قاطع» پاسخ‌های چت‌بات‌ها—حتی وقتی اطلاعات غلط ارائه می‌دهند—می‌تواند باعث شود مصرف‌کنندگان عادی تصور کنند با یک منبع معتبر مواجه‌اند.

چرا این موضوع مهم است؟

این گزارش به یکی از کاربردی‌ترین حوزه‌های هوش مصنوعی اشاره دارد: تعامل مستقیم با مردم عادی. ابزارهایی که قرار است فرآیند دریافت مشاوره را ساده‌تر کنند، اگر به‌درستی عمل نکنند، می‌توانند اعتماد عمومی را نسبت به فناوری‌های هوش مصنوعی به‌شدت تضعیف کنند.

در سال‌های اخیر، بسیاری از افراد به‌جای مراجعه به متخصصان مالی، از چت‌بات‌ها برای پرسیدن سوالاتی مانند «آیا باید وام مسکنم را بازپرداخت کنم؟» یا «کدام سرمایه‌گذاری کم‌خطرتر است؟» استفاده کرده‌اند. این مطالعه نشان می‌دهد که اتکا به این ابزارها بدون فیلترهای نظارتی می‌تواند تبعات خطرناکی داشته باشد.

واکنش‌ها و نیاز به قانون‌گذاری

کارشناسان معتقدند این یافته‌ها نشان می‌دهد زمان آن رسیده تا:

• استانداردهای مشخصی برای چت‌بات‌های ارائه‌دهنده مشاوره مالی تعریف شود.

• شرکت‌ها ملزم به ارزیابی صلاحیت و دقت مدل‌هایشان پیش از عرضه شوند.

• کاربران با هشدارهای واضح مواجه شوند که چت‌بات‌ها جایگزین مشاوران مالی حرفه‌ای نیستند.

در حال حاضر سازمان‌های نظارتی بریتانیا در حال بررسی راهکارهایی هستند تا از گمراه‌شدن مصرف‌کنندگان جلوگیری کنند.



برای مشاهده جدیدترین اخبار، به پایگاه خبری هوش مصنوعی ایران مراجعه کنید.