گزارش تازه روزنامه گاردین از فعالیت گروهی از پژوهشگران ایمنی هوش مصنوعی پرده برمی‌دارد که نسبت به پیامدهای بلندمدت توسعه شتاب‌زده AI هشدار می‌دهند. این گروه معتقدند بدون نظارت قانونی، چارچوب‌های اخلاقی و مسئولیت‌پذیری شفاف، هوش مصنوعی می‌تواند به چالشی جدی برای جامعه انسانی تبدیل شود.

آغاز یک نگرانی جدی در قلب سیلیکون‌ولی

در حالی که شرکت‌های بزرگ فناوری با سرعتی بی‌سابقه در حال توسعه مدل‌های پیشرفته هوش مصنوعی هستند، نگرانی‌ها درباره پیامدهای اجتماعی، اخلاقی و حتی وجودی این فناوری نیز رو به افزایش است. گزارش جدید روزنامه معتبر The Guardian که در ۳۰ دسامبر منتشر شده، به سراغ گروهی از پژوهشگران رفته است که به دلیل دیدگاه‌های هشداردهنده‌شان درباره آینده AI، با عنوان «AI Doomers» شناخته می‌شوند.

این گروه در ساختمانی اداری در نزدیکی برکلی کالیفرنیا فعالیت می‌کنند؛ جایی که به نوعی به پاتوق فکری پژوهشگران ایمنی هوش مصنوعی تبدیل شده است. آن‌ها معتقدند مسیر فعلی توسعه AI، بیش از آنکه بر ایمنی و پیامدهای انسانی متمرکز باشد، تحت تأثیر رقابت اقتصادی و فشار بازار قرار دارد.

نگرانی اصلی چیست؟ فراتر از ابزارهای روزمره

بر خلاف تصور عمومی، نگرانی این پژوهشگران به ابزارهای رایج مانند چت‌بات‌ها یا سیستم‌های تولید محتوا محدود نمی‌شود. تمرکز اصلی آن‌ها بر «سیستم‌های بسیار پیشرفته» و «عامل‌های خودمختار» است؛ سیستم‌هایی که می‌توانند اهداف تعریف‌شده را به شیوه‌هایی دنبال کنند که برای انسان‌ها قابل پیش‌بینی یا کنترل کامل نیست.

به باور این گروه، اگر چنین سیستم‌هایی بدون نظارت کافی توسعه یابند، ممکن است تصمیم‌هایی بگیرند که با منافع انسانی هم‌راستا نباشد. این تصمیم‌ها می‌توانند از حوزه اقتصاد و اشتغال فراتر رفته و حتی بر امنیت، سیاست و ساختارهای اجتماعی اثر بگذارند.

اخلاق و مسئولیت اجتماعی؛ حلقه‌ای که نباید نادیده گرفته شود

یکی از محورهای اصلی این گزارش، تأکید پژوهشگران بر اخلاق و مسئولیت اجتماعی در AI است. آن‌ها معتقدند فناوری ذاتاً خنثی نیست و نحوه طراحی، آموزش و استفاده از هوش مصنوعی می‌تواند پیامدهای عمیق اخلاقی داشته باشد.

از نگاه این پژوهشگران، پرسش‌هایی مانند «چه کسی مسئول تصمیم‌های AI است؟» یا «در صورت بروز آسیب، پاسخگویی با چه نهادی خواهد بود؟» هنوز پاسخ‌های روشنی ندارند. همین ابهام‌هاست که به باور آن‌ها می‌تواند اعتماد عمومی به فناوری را تضعیف کند.

قانون‌گذاری؛ ضرورتی که دیگر نمی‌توان به تعویق انداخت

گزارش گاردین نشان می‌دهد که بسیاری از این پژوهشگران خواستار دخالت جدی‌تر دولت‌ها و نهادهای قانون‌گذار هستند. آن‌ها تأکید می‌کنند که توسعه هوش مصنوعی نباید صرفاً به تصمیم شرکت‌های فناوری واگذار شود و لازم است قوانین و مقررات هوش مصنوعی به‌صورت شفاف و الزام‌آور تدوین شود.

این قوانین، به گفته آن‌ها، باید مشخص کنند که مسئولیت نهایی همواره بر عهده انسان‌ها، شرکت‌ها و دولت‌ها باقی می‌ماند و نه خود سیستم‌های هوشمند. بدون چنین چارچوب‌هایی، خطر سوءاستفاده یا گریز از مسئولیت افزایش خواهد یافت.

جامعه، اشتغال و آینده انسان در کنار ماشین

بخش دیگری از نگرانی‌ها به تأثیرات اجتماعی و اقتصادی هوش مصنوعی بازمی‌گردد. پژوهشگران هشدار می‌دهند که AI می‌تواند ساختار بازار کار را دگرگون کند و در صورت نبود سیاست‌های حمایتی، به افزایش نابرابری و ناامنی شغلی منجر شود.

آن‌ها تأکید می‌کنند که آینده هوش مصنوعی نباید تنها از منظر بهره‌وری و سودآوری بررسی شود، بلکه لازم است پیامدهای انسانی، فرهنگی و اجتماعی آن نیز در مرکز تصمیم‌گیری‌ها قرار گیرد.

چرا این هشدارها اهمیت دارد؟

گزارش گاردین نشان می‌دهد که بحث درباره خطرات هوش مصنوعی دیگر محدود به محافل دانشگاهی یا داستان‌های علمی‌تخیلی نیست. این نگرانی‌ها اکنون به سطح رسانه‌های جریان اصلی و گفت‌وگوهای سیاست‌گذاری راه پیدا کرده‌اند.

به باور پژوهشگران حاضر در این گزارش، جامعه هنوز فرصت دارد مسیر توسعه AI را اصلاح کند؛ اما این فرصت نامحدود نیست. آن‌ها هشدار می‌دهند که هر چه تصمیم‌گیری‌ها به تعویق بیفتد، کنترل پیامدهای آینده دشوارتر خواهد شد.

آینده‌ای انسان‌محور یا فناوری‌محور؟

در پایان، پیام اصلی این گزارش روشن است: هوش مصنوعی می‌تواند ابزاری قدرتمند برای پیشرفت بشر باشد، اما تنها در صورتی که توسعه آن با مسئولیت‌پذیری، اخلاق و نظارت همراه شود. انتخاب میان آینده‌ای انسان‌محور یا فناوری‌محور، به تصمیم‌هایی بستگی دارد که امروز گرفته می‌شود.