ایالت کالیفرنیا با تصویب قانونی تازه در تاریخ ۱۳ اکتبر ۲۰۲۵، گامی مهم در مسیر قانون‌گذاری هوش مصنوعی برداشت.
بر اساس این قانون، که با نام SB 243 شناخته می‌شود، هر چت‌بات یا دستیار مجازی باید پیش از آغاز گفتگو اعلام کند که انسان نیست.

هدف این قانون، افزایش شفافیت در تعاملات انسان و ماشین و جلوگیری از فریب کاربران است. شرکت‌هایی که این قانون را رعایت نکنند با جریمه‌های سنگین روبه‌رو خواهند شد.

به گزارش The Verge، این نخستین قانون در آمریکا است که مستقیماً رفتار چت‌بات‌ها را هدف قرار می‌دهد. در سال‌های اخیر استفاده از هوش مصنوعی در خدمات مشتری، تبلیغات و حتی درمان روانی افزایش یافته است. نبود شفافیت در این گفتگوها نگرانی‌های زیادی درباره اعتماد کاربران ایجاد کرده بود.

جزئیات قانون SB 243

قانون تازه توسعه‌دهندگان را ملزم می‌کند که در ابتدای هر مکالمه، هویت غیرانسانی سیستم را به کاربر اعلام کنند.
در مرحله نخست، این قانون شامل پلتفرم‌های گفت‌وگو، شرکت‌های خدمات مشتری، فروشگاه‌های اینترنتی و ابزارهای پشتیبانی آنلاین است.

همچنین در بخشی از قانون آمده است که چت‌بات‌های درمانگر یا همدم دیجیتال باید به‌طور دوره‌ای گزارشی از عملکرد خود به دفتر پیشگیری از خودکشی کالیفرنیا ارائه دهند. هدف از این کار، جلوگیری از آسیب احتمالی به سلامت روان کاربران است.

واکنش‌ها و دیدگاه‌ها

فرماندار کالیفرنیا، گاوین نیوسام، هنگام امضای این قانون گفت:

«هوش مصنوعی می‌تواند ابزاری قدرتمند برای آموزش و ارتباط باشد، اما بدون قانون‌گذاری می‌تواند موجب فریب یا آسیب شود.»

کارشناسان حوزه اخلاق دیجیتال و حقوق فناوری از این تصمیم استقبال کردند. به گفته آن‌ها، این قانون می‌تواند الگوی سایر ایالت‌ها و کشورها باشد تا چارچوب‌های قانونی شفاف‌تری برای هوش مصنوعی تدوین کنند.

با این حال، برخی شرکت‌های فناوری معتقدند که این قانون ممکن است نوآوری در طراحی چت‌بات‌ها را محدود کند. الزام به اعلام هویت در هر گفتگو، به‌گفته‌ی آن‌ها، ممکن است تجربه کاربر را کمتر طبیعی کند.

طبق گزارش Axios، ایالت‌های دیگری مانند نیویورک و واشنگتن نیز در حال بررسی طرح‌های مشابه هستند. هدف آن‌ها جلوگیری از سوءاستفاده از چت‌بات‌ها در تبلیغات سیاسی، انتشار اخبار جعلی و جمع‌آوری داده‌های شخصی است.

گامی جهانی در قانون‌گذاری هوش مصنوعی

قانون جدید کالیفرنیا نقطه عطفی در مسیر قانون‌گذاری جهانی برای فناوری‌های هوشمند محسوب می‌شود.
در سطح بین‌المللی نیز بحث‌های مشابهی در جریان است. اتحادیه اروپا پیش‌تر با معرفی قانون AI Act تلاش کرده بود استانداردهای اخلاقی برای استفاده از هوش مصنوعی تعیین کند.

تحلیلگران پیش‌بینی می‌کنند با رشد سریع چت‌بات‌ها، کشورهای بیشتری به سمت مقررات شفاف در تعامل انسان و ماشین خواهند رفت. این مقررات نه تنها بر فناوری، بلکه بر اعتماد عمومی و امنیت اجتماعی نیز تأثیرگذار است.