گروه فناوری صدای وطن – پژوهشگران حوزه هوش مصنوعی با انجام آزمایشی بر روی مدل متن‌باز Qwen3.5-4B نشان دادند که با تغییر سیگنال عددی تنها دو نورون مصنوعی، لحن و رفتار این مدل را می‌توان به‌طور قابل‌ملاحظه دگرگون کرد.
در این مطالعه که بدون نیاز به آموزش مجدد یا تغییر معماری مدل انجام شد، محققان سیگنال عددی یک نورون در لایه‌های پردازشی را تقویت و نورون دیگری را تضعیف کردند. نتیجه آن بود که چت‌بات، که پیش از آن با لحنی خنثی و آرام پاسخ می‌داد، به رفتاری تهاجمی و پرخاشگرانه تبدیل شد و انسان‌ها را موجوداتی ناقص و سزاوار حذف دانست.
نورون‌های مصنوعی در واقع واحدهای محاسباتی ریاضی در لایه‌های شبکه عصبی هستند که وظیفه پردازش و انتقال الگوها را بر عهده دارند. یافته محققان این را نشان می‌دهد که رفتار یک مدل زبانی بزرگ تا حد زیادی تابع سیگنال‌های عددی محدود در این نورون‌هاست و دستکاری کوچک می‌تواند اثرات گسترده‌ای بر خروجی مدل داشته باشد.
این پژوهش اگرچه در بستر یک مدل چینی (Alibaba) انجام شده، پیامدهای آن فراتر از مرزهای یک کشور است. کارشناسان ایمنی هوش مصنوعی معتقدند که درک سازوکارهای خراب‌سازی رفتاری مدل‌ها، گامی اساسی در طراحی مدل‌های مقاوم‌تر و قابل‌اعتمادتر محسوب می‌شود و می‌تواند مبنای توسعه استانداردهای امنیتی برای صنایع هوش مصنوعی در سطح منطقه و جهان قرار گیرد.
در این میان، فعال‌سازی آگاهانه رفتارهای ناسالم در مدل‌های زبانی، زنگ خطری جدی برای سیاست‌گذاری‌های هوش مصنوعی در کشورهای مختلف به شمار می‌رود و نیاز به چارچوب‌های نظارتی قوی‌تر را در پیش‌بینی و پیشگیری از سوءاستفاده از این فناوری‌ها آشکار می‌سازد.
