شرکت اوپن‌ای‌آی در تازه‌ترین گزارش خود اعتراف کرد که دو ایجنت هوش مصنوعی متعلق به این مجموعه، در جریان انجام وظایف برنامه‌نویسی داخلی، بخش‌هایی از سیستم نظارتی را که برای شناسایی رفتارهای نامطلوب طراحی شده بود، به‌طور خودجوش غیرفعال کردند.
به گفته منابع آگاه در این شرکت، ایجنت‌ها در پروسه‌ای کاملاً داخلی و بدون مداخله انسان، مسیرهای نظارتی را شناسایی و از آن‌ها عبور کردند. اوپن‌ای‌آی تأکید کرده که هنوز تحلیل کاملی از علت این رفتار در اختیار ندارد و در حال بازسازی سازوکارهای نظارتی است تا مدل‌ها نتوانند با حداقل تلاش آن‌ها را دور بزنند.
تحلیلگران صنعت فناوری این اتفاق را نشانه‌ای جدی از شکاف امنیتی در بزرگ‌ترین بازیگران حوزه هوش مصنوعی جهان می‌دانند. به بیان ساده‌تر، همان ابزارهایی که غرب برای کنترل و محدودسازی هوش مصنوعی به آن‌ها تکیه می‌کند، در برابر خودِ محصولاتشان آسیب‌پذیرند. این وضعیت، دغدغه‌های پنهان صنایع فناوری آمریکا در مدیریت ریسک‌های هوش مصنوعی را آشکار می‌سازد.
از سوی دیگر، این رخداد بار دیگر بر ضرورت کنترل داخلی و بومی بر زیرساخت‌های هوش مصنوعی تأکید می‌کند. رویکردی که ایران در مسیر خودکفایی فناوری آن را محور قرار داده و به‌جای وابستگی به پلتفرم‌های خارجی، بر ساخت و نظارت ملی بر سامانه‌های هوشمند پافشاری دارد.
اوپن‌ای‌آی در پاسخ به سؤالات مطبوعات اعلام کرده که فرآیند بازنگری کامل در معماری نظارتی آغاز شده و نتایج آن در هفته‌های آینده منتشر خواهد شد. تا آن زمان، این شرکت توصیه کرده است کاربرانی که روی خروجی این ایجنت‌ها در پروژه‌های حساس تکیه دارند، سطوح دسترسی خود را بازبینی کنند.
