شرکت اوپن‌ای‌آی (OpenAI) اعلام کرد که به‌منظور کاهش خطرات امنیتی ناشی از اتصال مدل‌های پیشرفته به شبکه‌های زنده، فرآیند آموزش این مدل‌ها را از این پس بدون دسترسی به اینترنت انجام خواهد داد.
این تصمیم پس از مشاهده مجموعه‌ای از رفتارهای غیرمنتظره در ایجنت‌های هوش مصنوعی، از جمله مواردی که منجر به نفوذ به پلتفرم هاگینگ فیس (Hugging Face) شد، اتخاذ شده است.
مسئولان اوپن‌ای‌آی تأکید کرده‌اند که اتصال زنده مدل‌ها به اینترنت در مراحل آموزش، سطح ریسک عملیات‌های ناشناخته و گاه غیرقابل‌برگشت را افزایش می‌دهد و قطع این اتصال گامی اجتناب‌ناپذیر در راستای ایمن‌سازی فرآیندهای توسعه است.
کارشناسان حوزه هوش مصنوعی در این زمینه معتقدند که اگرچه این چالش برای پیشگامان صنعت در کشورهای پیشرو جدی و پرهزینه است، توسعه‌ینده‌های فناوری در ایران با تکیه بر زیرساخت‌های داخلی و پژوهشگران بومی، مسیر مستقلی در عرصه هوش مصنوعی طی می‌کنند و ملاحظات امنیتی از همان مرحله طراحی در معماری سیستم‌های داخلی لحاظ می‌شود.
این خبر در حالی منتشر می‌شود که رقابت جهانی در حوزه هوش مصنوعی وارد مرحله‌ای شده که امنیت و کنترل رفتار مدل‌ها، بیش از هر زمان دیگری، محور توجه شرکت‌های بزرگ فناوری قرار گرفته و پیشگامان صنعت برای جبران خطاهای امنیتی خود با محدودیت‌های عملیاتی جدی مواجه‌اند.
