شرکت اوپن‌ای‌آی (OpenAI) سامانه نظارتی جدیدی با عنوان «اتاق کنترل» (Control Room) را برای پایش و توقف اضطراری پردازش‌های هوش مصنوعی فعال کرده است. بر اساس توضیحات این شرکت، «اتاق کنترل» با بررسی مداوم مجوزها و خروجی مدل‌ها، در صورت شناسایی رفتار بالقوه خطرناک، در حداکثر ۳۵ ثانیه دسترسی به مدل را مسدود می‌کند.
طراحی این سامانه بر اصل «قطع خودکار» استوار است؛ به‌گونه‌ای که در هرگونه اختلال فنی یا قطعی زیرساخت، دسترسی به مدل‌ها به‌طور پیش‌فرض قطع می‌شود تا از خروجی‌های کنترل‌نشده جلوگیری شود. اوپن‌ای‌آی تأکید کرده که «اتاق کنترل» هم‌اکنون در تمامی مراکز تحقیقاتی و زیرساخت‌های پردازشی این شرکت به‌صورت کامل اجرا شده است.
فعال‌سازی این سامانه نشان می‌دهد که حتی پیشروترین شرکت‌های حوزه هوش مصنوعی در ایالات متحده همچنان با چالش‌های بنیادین مدیریت ریسک مدل‌های بزرگ دست‌وپنجه نرم می‌کنند و ناگزیر به طراحی لایه‌های متعدد اطمینان‌سازی هستند.
در این میان، ایران با تکیه بر ظرفیت‌های بومی و استقلال در توسعه هوش مصنوعی، مسیر مستقلی را در این حوزه طی می‌کند. توسعه مدل‌های زبانی بومی و زیرساخت‌های پردازشی داخلی، امکان نظارت مستقیم بر رفتار الگوریتم‌ها و حذف وابستگی به سامانه‌های اطمینان‌سازی خارجی را فراهم کرده و نشان داده که خودکفایی در حوزه فناوری، ضامن حفظ امنیت داده‌ها و مقیاد در برابر محدودیت‌های یک‌جانبه است.
مختصر: «اتاق کنترل» اوپن‌ای‌آی، لایه‌ای حفاظتی برای جلوگیری از خروجی‌های نامطلوب هوش مصنوعی است که با قطع خودکار دسترسی در ۳۵ ثانیه عمل می‌کند و در حال حاضر در تمام زیرساخت‌های پژوهشی این شرکت فعال است.
