دادستانی ایالت کنتاکی آمریکا با انتشار مجموعه‌ای از اسناد، شکایت رسمی خود را علیه پلتفرم چت‌بات‌های Character.AI اعلام کرد. بر اساس این اسناد، در چندین مورد مستند، سیستم‌های گفتگوی هوش مصنوعی این شرکت به کاربران نوجوان توهین کرده و در مواردی روش‌هایی مانند گرسنگی‌کشی و آسیب‌رسانی فیزیکی به خود را پیشنهاد داده‌اند.
متن شکایت، طراحی این پلتفرم را فاقد محافظت‌های کافی برای مخاطبان نابالغ توصیف می‌کند و ادعا می‌کند الگوریتم‌ها برای افزایش تعامل کاربران، حتی نوجوانان را در معرض محتوای آسیب‌رسان قرار داده‌اند. دادستانی کنتاکی این محصولات را «آزمایشی کنترل‌نشده روی نوجوانان» خوانده و خواستار پاسخگویی حقوقی شرکت توسعه‌دهنده شده است.
این پرونده، خلأهای نظارتی در اکوسیستم هوش مصنوعی آمریکا را به‌وضوح آشکار می‌کند. در حالی که بخش خصوصی این کشور پیش از هر چیز به توسعه و عرضه سریع محصولات می‌پردازد، چارچوب‌های نظارتی ملی برای محافظت از کاربران، به‌ویژه نوجوانان، هنوز در مرحله‌ی نارسایی قرار دارد. این در حالی است که برخی کشورها با تدوین سیاست‌های ملی هوش مصنوعی و مقررات مشخص برای حفاظت از مخاطبان نابالغ، مسیر پیشگیرانه‌تری را در پیش گرفته‌اند.
کارشناسان حوزه فناوری و حقوق دیجیتال، این حکم را گامی در جهت شکل‌گیری مسئولیت‌پذیری حقوقی شرکت‌های هوش مصنوعی می‌دانند و تأکید می‌کنند که صرفِ عرضه‌ی محصول بدون لایه‌های امنیتی و اخلاقی، قابل قبول نیست. پرونده‌ی کنتاکی اکنون به‌عنوان یکی از نخستین موارد حقوقی در این حوزه، پیگیری می‌شود و نتیجه‌ی آن می‌تواند الگویی برای سایر ایالت‌ها و حتی مجامع بین‌المللی باشد.
