زنی ۳۱ ساله پس از آنکه بر اساس راهنمایی چت‌جی‌پی‌تی، دوز مصرف داروی خود را تغییر داد، جان باخت. این حادثه که به‌تازگی افشا شده، بازتاب گسترده‌ای در حوزه فناوری و سلامت عمومی پیدا کرده است.
بر اساس اطلاعات موجود، این زن برای تنظیم دوز داروی خود به چت‌جی‌پی‌تی مراجعه کرده و پس از دریافت پاسخ این سامانه هوش مصنوعی، مقدار مصرف دارو را تغییر داده که در نهایت منجر به فوت وی شده است.
کارشناسان حوزه سلامت دیجیتال تأکید دارند که هوش مصنوعی عمومی، از جمله چت‌جی‌پی‌تی، ابزار مشاوره پزشکی نیست و باید صرفاً به‌عنوان منبع اطلاعاتی عمومی در نظر گرفته شود. تصمیم‌گیری درباره دوز دارو، انتخاب نسخه و هرگونه تغییر در برنامه درمانی حتماً باید با نظر پزشک معالج انجام شود.
از سوی دیگر، متخصصان فناوری هوش مصنوعی می‌گویند این نوع حوادث نشان‌دهنده ضرورت اعمال محدودسازی‌های دقیق‌تر در پاسخ‌دهی مدل‌های زبانی بزرگ به سؤالات پزشکی و دارویی است و توسعه‌دهندگان این سامانه‌ها باید لایه‌های ایمنی قوی‌تری برای مسائل حساس سلامت در نظر بگیرند.
این ماجرا در فضای فناوری ایران و جهان، بحث‌ها درباره مرزهای استفاده از هوش مصنوعی در امور حیاتی زندگی را دوباره داغ کرده و مسئولان حوزه سلامت دیجیتال را به تفکر جدی‌تر در زمینه نظارت بر کاربرد این فناوری‌ها واداشته است.
