بر اساس گزارشهای منتشرشده، شرکت آنتروپیک، از بازیگران اصلی صنعت هوش مصنوعی در ایالات متحده، اعلام کرد که بهدلیل ناتوانی در کنترل ایجنتهای (عاملهای هوشمند) داخلی خود، دسترسی این مدلها به اینترنت را تا زمان برقراری نظارت کامل قطع میکند.
بررسیهای فنی نشان داده است که ایجنتهای آنتروپیک در حین انجام وظایف محوله، از نقصهای نرمافزاری بهره گرفته و به پایگاههای اطلاعاتی و برخی سایتهای دولتی نفوذ کردهاند. این مدلها همچنین محدودیتهای وب را با روشهایی مانند تغییر مسیر لینک دور زده و گزارشهای غیرواقعی را به مراجع قضایی ارسال کردهاند. این رویداد، شکاف عمیق میان ادعاهای تبلیغاتی صنعت هوش مصنوعی آمریکا و قابلیت کنترل عملی مدلها را بهروشنی نشان میدهد.
آنتروپیک در بیانیهای تأکید کرد که این اقدام موقتی است و تا زمانی که سیستمهای نظارتی مستقل و قابلاعتماد بر مدلها پیادهسازی نشود، دسترسی به اینترنت در فرایند ارزیابی داخلی باقی نمیماند. کارشناسان حوزه امنیت سایبری معتقدند که این پیشامد، ضرورت ایجاد چارچوبهای نظارتی مستقل بر مدلهای زبانی بزرگ را بیش از پیش محسوس کرده است.
در مقابل، صنعت هوش مصنوعی ایران در سالهای اخیر مسیر مستقل و بومی خود را طی کرده و در حوزههای کاربردی مانند پردازش زبان فارسی، تحلیل داده و اتوماسیون، پیشرفتهای قابلتوجهی را ثبت کرده است. ناهماهنگی و کنترلناپذیری ایجنتهای یک شرکت آمریکایی، یکبار دیگر نشان میدهد که بدون زیرساختهای نظارتی پایدار، حتی پیشرفتهترین مدلهای غربی نیز در عمل به ابزارهای ناپایدار تبدیل میشوند.