چین پیش‌نویس مجموعه‌ای از قوانین جدید برای تنظیم خدمات و محصولات هوش مصنوعی را منتشر کرده و آن را برای دریافت نظر عمومی در اختیار شهروندان و شرکت‌ها قرار داده است. به گزارش Reuters، این اقدام نشان‌دهنده تلاش جدی دولت چین برای کنترل و هدایت توسعه سریع هوش مصنوعی مصرف‌محور در این کشور است.

دامنه قوانین پیشنهادی چیست؟

این قوانین شامل تمام محصولات و خدمات هوش مصنوعی می‌شود که در چین به عموم مردم ارائه می‌شوند و رفتارها و ویژگی‌های انسانی مانند الگوهای فکری، سبک‌های ارتباطی و پاسخ‌های احساسی را شبیه‌سازی می‌کنند. این سرویس‌ها معمولاً از طریق متن، تصویر، صدا یا ویدئو با کاربران تعامل دارند و در بسیاری موارد طوری طراحی شده‌اند که واکنش احساسی نشان دهند.

مسئولیت جدید شرکت‌های هوش مصنوعی

بر اساس پیش‌نویس منتشرشده، شرکت‌های ارائه‌دهنده خدمات هوش مصنوعی در چین موظف خواهند بود:

• به کاربران درباره خطر استفاده بیش‌ازحد هشدار دهند

• در صورت مشاهده نشانه‌های وابستگی یا اعتیاد، مداخله کنند

• مسئولیت ایمنی محصول در کل چرخه عمر آن را بپذیرند

این مسئولیت‌ها شامل ایجاد سازوکارهایی برای بررسی الگوریتم‌ها، امنیت داده‌ها و حفاظت از اطلاعات شخصی کاربران می‌شود.

تمرکز ویژه بر سلامت روان کاربران

یکی از بخش‌های مهم این قوانین، توجه مستقیم به ریسک‌های سلامت روان است. طبق گزارش رویترز، ارائه‌دهندگان خدمات هوش مصنوعی باید بتوانند:

• وضعیت احساسی کاربران را تشخیص دهند

• میزان وابستگی آن‌ها به سرویس را ارزیابی کنند

در صورتی که کاربران واکنش‌های احساسی شدید یا رفتارهای اعتیادگونه از خود نشان دهند، شرکت‌ها ملزم به انجام اقداماتی برای کاهش آسیب‌های احتمالی خواهند بود.

محدودیت‌های سخت‌گیرانه در تولید محتوا

پیش‌نویس قوانین همچنین خط قرمزهای مشخصی برای محتوای تولیدشده توسط هوش مصنوعی تعیین کرده است. بر این اساس، تولید محتوایی که:

• امنیت ملی را تهدید کند

• شایعه‌پراکنی کند

• خشونت یا محتوای مستهجن را ترویج دهد

به‌طور کامل ممنوع خواهد بود.

مرحله بعد چیست؟

این پیش‌نویس در حال حاضر برای دریافت بازخورد عمومی منتشر شده و پس از بررسی نظرات، نسخه نهایی آن تصویب و اجرا خواهد شد. کارشناسان معتقدند این قوانین می‌تواند الگویی مهم برای حکمرانی هوش مصنوعی در سطح جهانی باشد و مسیر فعالیت شرکت‌های AI را به شکل قابل‌توجهی تغییر دهد.

برای مشاهده جدیدترین اخبار، به پایگاه خبری هوش مصنوعی ایران مراجعه کنید.