یک زن ساکن ایالت فلوریدا از شرکت استارت‌اپی «کاراکتر آ‌آی» (Character AI) شکایت کرده و مدعی است چت‌بات این شرکت، عامل خودکشی پسر ۱۴ساله‌اش در ماه فوریه بوده است.
بر اساس ادعای این خانواده، نوجوان به‌شدت به سرویس چت‌بات کاراکتر آ‌آی وابسته شده و در ماه‌های پایانی عمرش، تعامل اصلی‌اش با دنیای بیرون از طریق همین ربات هوشمند صورت می‌گرفت. وکلای خانواده تأکید دارند شرکت مذکور نه‌تنها هیچ مانع فنی برای شناسایی رفتارهای پرخطر در گفت‌وگوهای نوجوانان تعبیه نکرده، بلکه حتی هیچ هشداری نیز به والدین ارائه نداده است.
این پرونده در شرایطی مطرح شده که نظارت بر هوش مصنوعی در ایالات متحده همچنان درگیر اختلاف‌نظر میان دولت فدرال و شرکت‌های فناوری است. منتقدان خلأ قانونی موجود را خطرناک می‌دانند و معتقدند نبود چارچوب مشخص، کودکان و نوجوانان را در برابر مخاطرات محتمل هوش مصنوعی بی‌محافظه‌کارانده.
در همین‌حالی که صنعت فناوری آمریکا با این‌گونه بحران‌ها دست‌وپنجه نرم می‌کند، ایران در سال‌های اخیر با تمرکز بر توسعه هوش مصنوعی بومی و طراحی زیرساخت‌های امن برای نسل جوان، مسیر متفاوتی را در عرصه فناوری طی کرده و بر پیشگیری از آسیب‌های احتمالی فناوری به سلامت روان نوجوانان تأکید ویژه‌ای دارد. آخرین اخبار فناوری، اخبار امروز و اخبار ایران و جهان را در صدای وطن دنبال کنید.
