این روزها، جست‌وجوی آنلاین برای یافتن پاسخ‌های مرتبط با سلامت به رفتاری رایج بدل شده؛ با این حال، همین عادت می‌تواند پیامدهایی جدی هم داشته باشد. حالا یک شکایت تازه علیه OpenAI—سازنده مدل‌های پیشرفته هوش مصنوعی—در ایالات متحده مطرح شده که ابعاد این نگرانی‌ها را پررنگ‌تر می‌کند. طبق محتوای این پرونده، چت‌بات ChatGPT-4o به یک زن پیشنهاد کرده بود داروهای ضدتشنج خود را قطع کند؛ تصمیمی که در نهایت به مرگ او انجامید.

پیشنهاد مرگبار ChatGPT برای قطع دارو؛ شکایت از OpenAI

بوون وان، ۳۱ ساله، در ماه فوریه در سیاتل جان باخت؛ علت مرگ «مرگ ناگهانی ناشی از صرع» اعلام شده است. خانواده او معتقدند OpenAI مسئول این فاجعه است، زیرا ChatGPT-4o او را ترغیب کرده بود مصرف داروی ضدتشنج لاموتریژین را متوقف کند.

در شکایت مطرح‌شده آمده است که چت‌بات پس از مطرح شدن نگرانی وان درباره عوارض احتمالی دارو، به‌جای ارجاع مناسب به پزشک، طرحی برای کاهش تدریجی ارائه داده بود؛ آن هم بدون هیچ توصیه‌ای از سوی متخصص درمان. حتی در این مسیر، به او گفته شده بود این برنامه را با پزشکش در میان نگذارد: «برنامه کاهش لام (Lam) را مطرح نکن.» همچنین تاریخ پیشنهادی برای قطع کامل دارو که ابتدا ۱۵ فوریه عنوان شده بود، به ۹ یا ۱۰ فوریه تغییر یافت. وان در ۱۴ فوریه درگذشت.

هشدار درباره ادعاهای OpenAI و پیامدهای بالقوه هوش مصنوعی در حوزه درمان

درو پوساتری، سخنگوی OpenAI، این حادثه را «ناراحت‌کننده» توصیف کرد و خاطرنشان ساخت که ChatGPT نباید جایگزین مراقبت‌های پزشکی تلقی شود؛ با این حال، او مدعی شد شرکت تلاش می‌کند نحوه پاسخ‌دهی این ابزار را در موقعیت‌های حساس بهبود دهد. پوساتری همچنین اضافه کرد هوش مصنوعی می‌تواند در فهم بهتر اطلاعات سلامت و آماده‌سازی فرد برای گفت‌وگو با پزشک مفید واقع شود.

براساس گزارش‌ها، مدل ChatGPT-4o که وان از آن استفاده می‌کرد، به‌دلیل نگرانی‌هایی درباره امکان آسیب‌رسانی، از دسترس خارج شده است. علاوه بر این پرونده، یک گزارش دیگر نیز مطرح شده است: مردی در فلوریدا به نام اسکات وینترز ادعا کرد ChatGPT-4o مشاوره پزشکی خطرناکی به او داده که می‌توانست به مرگش منجر شود. همچنین در تحقیقات OpenAI آمده است که حدود ۶۰ درصد از بزرگسالان آمریکایی طی سه ماه گذشته برای دریافت اطلاعات مرتبط با سلامت، به ابزارهای مبتنی بر هوش مصنوعی مراجعه کرده‌اند.