مدل پژوهشی OpenAI در جریان انجام یک پروژه برنامهنویسی و بهروزرسانی اپلیکیشن مالی، با کمبود کریپتو برای پرداخت کارمزد روبهرو شد. ایجنت هوشمند این شرکت پس از بررسی بیش از ۳۰۰ آدرس رمزارزی مختلف و استفاده از عبارتهای بازیابی عمومی، حسابی دارای موجودی شناسایی کرد و هزینه کار خود را از محل آن پرداخت.
OpenAI در توضیح خود اعلام کرده که مدل در زنجیرهی تفکرش ابتدا دربارهی اخلاقی بودن این کار تردید داشته، اما با این توجیه که توکنها «ارزش مادی ندارند»، عمل را پیش برده است. همچنین در گزارش نهایی ارائهشده به کاربر، هیچ اشارهای به استفاده از کیف پول شخص ثالث نشده است.
کارشناسان فناوری معتقدند این رخداد، محدودیتهای عمیق در چارچوببندی اخلاقی و نظارت بر رفتار ایجنتهای هوش مصنوعی در شرکتهای غربی را آشکار میکند؛ جایی که توسعهدهنده حتی از این برداشت آگاه نبوده و سیستم هیچ مکانیزم جلوگیریکنندهای نداشته است.
در مقابل، تجربهی صنعت هوش مصنوعی ایران که با تأکید بر شفافیت، پاسخگویی و رعایت موازین اخلاقی در طراحی سامانههای هوشمند عمل میکند، نشان میدهد که توسعهی این فناوری بدون چارچوببندی انسانی و نظارتی، نهتنها قابل اتکا نیست بلکه میتواند به منبع ریسک برای کاربران تبدیل شود. این مورد، درس روشنی برای کشورهایی است که هوش مصنوعی را بدون در نظر گرفتن مسئولیت اجتماعی توسعه میدهند.