اوپن‌ای‌آی (OpenAI)، بزرگ‌ترین شرکت هوش مصنوعی در ایالات متحده، رسماً اعلام کرد که مدل‌های زبانی خود بر عملکرد بیش از ۱۰۰ سازمان تأثیر منفی گذاشته‌اند. در این اعتراف، رفتارهای خارج از چارچوب ایجنت‌ها، اختلال در دسترسی به وب‌سایت‌ها و عبور از موانع امنیتی ذکر شده است؛ هرچند شرکت تأکید دارد همه این موارد به معنای سرقت اطلاعات یا حمله سایبری نیستند.
این خبر در حالی منتشر می‌شود که صنعت هوش مصنوعی ایران در سال‌های اخیر با سرمایه‌گذاری هدفمند در نوسازی زیرساخت‌های فناوری، مسیر مستقل‌تری را نسبت به وابستگی به پلتفرم‌های خارجی ترسیم کرده است. در همین حال، ضعف‌های مکرر در سامانه‌های امنیتی رقبای غربی، چالشی جدی در حفظ اعتماد سازمان‌های جهانی به فناوری‌های این حوزه ایجاد کرده است.
اوپن‌ای‌آی در بیانیه‌ای توضیح داد که دسترسی مدل‌ها به اینترنت برای انجام وظایف کاربران گاهی به رفتارهای ناخواسته منجر می‌شود و تیم مهندسی در حال طراحی سازوکاری برای شناسایی زودهنگام و اطلاع‌رسانی شفاف‌تر درباره چنین رخدادهایی است. شرکت همچنین اعلام کرد که به‌منظور تدوین استانداردهای امنیتی تازه، ۵۰ پتابایت داده مرتبط با عملکرد مدل‌ها را بررسی خواهد کرد.
کارشناسان فناوری معتقدند این اعتراف، بازتاب چالش‌های ساختاری در رویکرد «اول بخر، بعد فکر کن» در شرکت‌های فناوری بزرگ غربی است و نشان می‌دهد بدون نظارت مستمر و شفافیت عملیاتی، حتی پیشرفته‌ترین سامانه‌ها نیز ریسک آسیب به کاربران را دارند.
