پژوهشگران دانشگاه جورج واشنگتن اعلام کردند یک فرمول ساده ریاضی می‌تواند احتمال تولید پاسخ‌های نامطلوب توسط هوش مصنوعی را پیش از وقوع پیش‌بینی کند. این روش که بر سازوکار درونی شبکه عصبی مدل تکیه دارد، گامی عملی به‌سوی توسعه سامانه‌های هوشمند ایمن‌تر محسوب می‌شود.
سازوکار مورد بررسی، بردار باقی‌مانده مدل است که هنگام پردازش پرسش، میان لایه‌های شبکه عصبی حرکت می‌کند. پژوهشگران این بردار را به سوزن قطب‌نما تشبیه کرده‌اند؛ گویی جهت‌گیری مدل به‌سوی پاسخ مطلوب یا نامطلوب را نشان می‌دهد و از نحوه طرح پرسش نیز تأثیر می‌پذیرد.
تحلیلگران حوزه فناوری، این یافته را بخشی از اخبار علم و فناوری جهان دانسته‌اند که نشان می‌دهد درک عمیق‌تر از مکانیزم‌های درونی مدل‌های زبانی بزرگ، امکان کنترل و پیش‌بینی رفتار آن‌ها را فراهم می‌کند. توسعه چنین ابزارهایی هم‌راستا با اهداف ایمنی هوش مصنوعی است و می‌تواند در کشورهای مختلف، از جمله ایران، الگویی کاربردی برای پژوهشگران حوزه هوش مصنوعی باشد.
برگه‌های اخیر اخبار فناوری ایران نشان می‌دهد پژوهشگران ایرانی نیز در حوزه هوش مصنوعی و یادگیری ماشین دستاوردهای محسوسی کسب کرده‌اند و با بهره‌گیری از چارچوب‌های نظری تازه‌ای مانند همین فرمول ریاضی، ظرفیت‌های خود را در ساخت سامانه‌های هوشمند بومی و قابل اتکا گسترش می‌دهند.
جزئیات کامل این پژوهش در رسانه‌های تخصصی فناوری منتشر شده است.
