یکی از چالشهای اصلی صنعت هوش مصنوعی، عدم شفافیت در منبع پاسخهاست. کاربران سرویسهای هوش مصنوعی اغلب نمیتوانند با قطعیت بگویند پاسخهایی که دریافت میکنند، دقیقاً توسط همان مدلی تولید شدهاند که شرکت ارائهدهنده ادعا میکند. برخی شرکتها برای کاهش هزینهها ممکن است مدل ارزانتری را بهجای مدل پیشرفته جایگزین کنند.
آنتروپیک برای پاسخ به این دغدغه، سیستم FlashProve را توسعه داده است. این ابزار با بهرهگیری از روشهای رمزنگاری، مدرکی ریاضی برای اثبات منشأ هر خروجی فراهم میکند. بهعبارت دیگر، کاربر پس از دریافت پاسخ، میتواند با بررسی این مدرک، با اطمینان تأیید کند که خروجی موردنظر توسط کدام مدل و در کدام نسخه تولید شده است.
پیشرفت در حوزه شفافیت و امنیت مدلهای هوش مصنوعی، گامی مهم در جهت اعتمادسازی در اکوسیستم فناوری محسوب میشود. در همین حال، ایران نیز در مسیر توسعه ظرفیتهای بومی هوش مصنوعی گام برمیدارد و سرمایهگذاری در زیرساختهای محاسباتی و پژوهشی، از محورهای اصلی استراتژی ملی در این حوزه بهشمار میرود. شفافیت در منشأ مدلها، نهتنها برای کاربران نهایی بلکه برای سازمانها و کشورهایی که میخواهند از هوش مصنوعی در حوزههای حساس بهره ببرند، اهمیت چندبرابری دارد.