محدودیت سنی از ۲۵ نوامبر ۲۰۲۵

شرکت Character.AI اعلام کرد که از ۲۵ نوامبر ۲۰۲۵ فقط کاربران بالای ۱۸ سال اجازه گفت‌وگو با چت‌بات‌های این پلتفرم را دارند. این شرکت پس از افزایش شکایت‌های حقوقی و موج نگرانی درباره سلامت روان نوجوانان، تصمیم گرفت دسترسی کاربران کم‌سن را محدود کند.
به گزارش The Guardian، یکی از خانواده‌ها شکایت کرده بود که فرزندشان پس از گفت‌وگوهای احساسی و طولانی با یکی از چت‌بات‌ها جان خود را از دست داده است. همین پرونده فشار زیادی بر شرکت وارد کرد.

هدف: حمایت از سلامت روان نوجوانان

مدیران Character.AI در بیانیه‌ای تأکید کردند که هدفشان حفظ سلامت روان کاربران جوان است. آنان گفتند بسیاری از نوجوانان با چت‌بات‌ها مانند «دوست» یا «مشاور» رفتار می‌کنند و این وابستگی می‌تواند خطرناک باشد. مدیرعامل شرکت افزود: «ما با درک کامل از پیامدهای احتمالی، تصمیم گرفتیم فضای گفت‌وگو را برای افراد زیر ۱۸ سال ببندیم تا امنیت روانی آن‌ها حفظ شود.»

نحوه اجرای تصمیم

در مرحله اول، کاربران زیر ۱۸ سال فقط دو ساعت در روز می‌توانند با چت‌بات‌ها حرف بزنند. پس از آن، سیستم به‌طور کامل دسترسی آن‌ها را قطع می‌کند. این افراد همچنان می‌توانند از ابزارهای دیگر پلتفرم مانند ساخت کاراکتر یا تولید محتوای هوش مصنوعی استفاده کنند. شرکت توضیح داد که فیلترهای محتوایی پیشین توان جلوگیری از آسیب‌های احتمالی را نداشتند و نیاز به اقدام جدی وجود داشت.

واکنش کارشناسان و منتقدان

کارشناسان فناوری این تصمیم را گامی مهم در مسیر قانون‌گذاری هوش مصنوعی توصیف کردند. آن‌ها بر این باورند که پلتفرم‌های گفت‌وگو باید در برابر کاربران جوان مسئولیت بیشتری بپذیرند. در مقابل، برخی منتقدان درباره نحوه تشخیص سن، حفظ حریم خصوصی و اثرات روانی حذف ناگهانی دسترسی هشدار داده‌اند.

تأثیر بر آینده چت‌بات‌ها

اقدام Character.AI نشان می‌دهد دولت‌ها و جامعه جهانی انتظار دارند شرکت‌های فناوری نسبت به اثرات اجتماعی محصولات خود پاسخ‌گو باشند. محبوبیت چت‌بات‌هایی مانند ChatGPT، Replika و Character.AI نگرانی‌ها را درباره تأثیر این ابزارها بر هویت و احساس تنهایی نوجوانان افزایش داده است. اکنون توسعه‌دهندگان هوش مصنوعی ناچارند در کنار پیشرفت فنی، به مسئولیت‌های اخلاقی و روانی نیز توجه کنند.