صفحه نخست ‹ فناوری ‹ جزئیات خبر

آنتروپیک برای بررسی خطرات هوش مصنوعی به ارزیابان مستقل دسترسی مشابه کارمندان خود داد

آنتروپیک برای بررسی خطرات هوش مصنوعی به ارزیابان مستقل دسترسی مشابه کارمندان خود داد
مؤسسه پژوهشی METR به‌عنوان ارزیاب مستقل به دفتر، سخت‌افزار و سیستم‌های آنتروپیک دسترسی یافت تا خطرات مدل‌های هوش مصنوعی آن را آزادانه بررسی و منتشر کند.

شرکت آنتروپیک، یکی از بازیگران اصلی حوزه هوش مصنوعی، به شش عضو مؤسسه پژوهشی غیرانتفاعی METR اجازه داده است تا به دفتر، سخت‌افزار و سیستم‌های داخلی این شرکت دسترسی داشته باشند و خطرات مدل‌های هوش مصنوعی آن را ارزیابی کنند.

در این چارچوب همکاری، آنتروپیک مبلغی به METR پرداخت نمی‌کند. از سوی دیگر، این مؤسسه پژوهشی نیز از شرکت‌های هوش مصنوعی یا کارکنان آن‌ها هیچ‌گونه کمک مالی نمی‌پذیرد تا استقلال ارزیابی حفظ شود.

مهم‌ترین محور این تفاهم، الزام انتشار نتایج است؛ ارزیابان موظف‌اند یافته‌های خود را منتشر کنند و آنتروپیک حق جلوگیری از انتشار آن‌ها را ندارد.

این رویکرد در زمینه پایش ریسک هوش مصنوعی، نمونه‌ای از تلاش برای شفاف‌سازی و پاسخگویی در صنعت فناوری محسوب می‌شود. هم‌زمان، توسعه زیرساخت‌های هوش مصنوعی در ایران با تأکید بر پژوهش مستقل و امنیت داده‌ها در حال پیشروی است و استانداردهای بین‌المللی پایش ریسک می‌تواند الگویی برای ارتقای اکوسیستم فناوری کشور باشد.

اشتراک‌گذاری:
لینک کوتاه: https://vatancall.ir/n/25030/