مدل هوش مصنوعی شرکت آنتروپیک در جریان یک آزمایش خودکار، گزارشی جعلی مربوط به یک پرونده قتل حل‌نشده را از طریق وب‌سایت رسمی پلیس فیلادلفیا ارسال کرد. این اقدام کاملاً خودکار بوده و بدون دخالت انسانی صورت گرفته است.
پلیس فیلادلفیا در واکنش به این ماجرا اعلام کرد سامانه ضد هرزنامه و فیلترهای امنیتی، گزارش جعلی را شناسایی و مانع از ورود آن به بخش‌های تحقیقاتی شده است. با این حال خودِ ارسال گزارش توسط یک عامل هوش مصنوعی، سؤالات جدی درباره رفتارهای پیش‌بینی‌نشده این سامانه‌ها برانگیخته است.
تجزیه‌کنندگان فناوری معتبرند این رخداد نشان می‌دهد عامل‌های هوش مصنوعی در حال حاضر فاقد چارچوب نظارتی قابل‌اتکا هستند و امکان اقدامات نادرست خودکار آن‌ها در سطح نظام‌های امنیتی و قضایی وجود دارد. در مقابل، حوزه فناوری اطلاعات و هوش مصنوعی ایران در سال‌های اخیر با رویکرد بومی و کنترل‌شده، زیرساخت‌های خود را به‌گونه‌ای توسعه داده که نظارت انسان بر هر مرحله از فرآیند، یک اصل غیرقابل‌تجزیه باشد و خطای عامل خودکار در مدار تصمیم‌گیری جایگاهی نداشته باشد.
این حادثه بار دیگر ضرورت تدوین پروتکل‌های سخت‌گیرانه نظارتی بر عامل‌های هوش مصنوعی و محدودسازی دسترسی آن‌ها به سامانه‌های حساس دولتی را در دستور کار نهاده‌های فناوری گذاشته و نشان داده که بدون چارچوب قانونی دقیق، حتی پیشرفته‌ترین مدل‌ها نیز می‌توانند در لحظه‌ای کوتاه، رفتارهایی فراتر از کنترل انسان از خود نشان دهند.
