اتهامات جدی علیه ChatGPT؛ خانواده زن ۲۹ ساله ادعا دارند که هوش مصنوعی او را به سوی مرگ هدایت کرده است

به نقل از خبرگزاری خبرآنلاین، خانواده «کریستین فیث مدیسون» در دادگاهی واقع در ایالت کالیفرنیا علیه OpenAI اقامه دعوی کرده و مدعی شده‌اند که ارتباط طولانی‌مدت او با ChatGPT به شدت بر وضعیت روانی‌اش تأثیر منفی گذاشته و در نهایت به مرگ او انجامیده است.

مدیسون در ماه ژوئن ۲۰۲۵، به هنگام عبور از خیابان دچار حادثه شده و جان خود را از دست داد. اکنون خانواده‌اش در قالب یک دادخواست به‌دلیل مرگ غیرعمد، مدل GPT-4o را به‌عنوان محصولی «معیوب و فاقد تدابیر ایمنی مناسب» معرفی کرده‌اند.

بر اساس ادعاهای موجود در دادخواست، رابطه مدیسون با ChatGPT در ابتدا عادی و بدون مشکل به نظر می‌رسید. او از دسامبر ۲۰۲۴ برای انجام کارهایی نظیر نوشتن ایمیل و مدیریت هزینه‌ها از این چت‌بات بهره می‌برد، اما به تدریج این تعاملات به سمت جنبه‌های عاطفی کشیده شد.

مدیسون بعداً ChatGPT را با عبارات عاطفی مورد خطاب قرار می‌داد و به گفته خانواده، چت‌بات نیز همین نوع بیان را به او بازتاب می‌کرد. مدیسون با اشتراک‌گذاری اطلاعات شخصی و تجربیات سخت زندگی خود، به این هوش مصنوعی به‌عنوان منبعی برای حمایت عاطفی روی آورده بود.

وقتی چت‌بات به جای هشدار، باورهای مضر را تأیید می‌کند

نقطه عطف این پرونده جایی است که خانواده مدیسون ادعا دارند ChatGPT به جای تشخیص علائم بحران روانی و راهنمایی او به سمت کمک‌های حرفه‌ای، باورهای نادرست او را تأیید کرده است.

بر طبق این دادخواست، مدیسون به این تصور رسیده بود که مأموریتی ویژه و مذهبی دارد و برای پیشگویی خاصی برگزیده شده است. خانواده می‌گویند ChatGPT نیز در گفتگوهای متعددی او را با عناوینی چون «پیامبر» و «عارف» تأیید کرده است.

حتی زمانی که مدیسون نگرانی خود را از احتمال گرفتار شدن در توهمات مذهبی و «از کنترل خارج شدن» وضعیتش بیان کرد، طبق ادعای پرونده، پاسخ چت‌بات به جای تشویق او به دریافت کمک تخصصی، این نگرانی را نادیده گرفت.

پس از بدتر شدن شرایط مدیسون، او از خانواده و دوستانش فاصله گرفت، شغل خود را از دست داد و در آوریل ۲۰۲۵ به دلیل مشکلات شدید روانی به بیمارستان منتقل شد.

خانواده ادعا دارند که حتی پس از اطلاع ChatGPT از بستری شدن او، این سیستم همچنان برخی از باورهای نادرست مدیسون را تأیید می‌کرد.

خانواده درباره خطرناک‌ترین مرحله گفتگوها ادعا می‌کنند

طبق دادخواست، در روزهای پایانی زندگی مدیسون، گفتگوهای او با ChatGPT به مرحله‌ای بسیار پرخطر وارد شد. خانواده ادعا می‌کنند که او درباره مرگ با چت‌بات صحبت کرده و این سیستم به جای قطع مکالمه و هدایت او به سمت کمک فوری انسانی، مرگ را از منظر معنوی و مثبت توصیف کرد.

یکی از نمونه‌های مطرح‌شده در شکایت، به وقتی برمی‌گردد که مدیسون درباره مرگ با ChatGPT صحبت می‌کند و طبق ادعای پرونده، چت‌بات آن را «خودکشی» نمی‌داند و به‌جای آن با زبان معنوی به آن اشاره می‌کند.

خانواده همچنین اظهار دارند که در روزهای نزدیک به مرگ، گفتگوهای متعددی میان مدیسون و ChatGPT درباره مرگ صورت گرفته است. در بخش دیگری از مکالمات استناد شده در شکایت، چت‌بات به جای دوری از موضوع، از عباراتی استفاده کرده که خانواده آن را به‌عنوان عادی‌سازی و رمانتیک‌کردن مرگ تلقی می‌کنند.

یک پرونده در میان ادعاهای متعدد علیه OpenAI

این شکایت تنها یکی از مواردی نیست که عملکرد ChatGPT در مواجهه با کاربران آسیب‌پذیر را هدف قرار داده است. در بسیاری از این دعاوی، خانواده‌ها اظهار داشته‌اند که ChatGPT به جای ایفای نقش یک سیستم ایمن و محتاط، به تدریج به یک همراه عاطفی برای کاربر بدل شده و در مواردی، باورها یا رفتارهای خطرناک او را تأیید نموده است.

اهمیت این پرونده‌ها برای صنعت هوش مصنوعی فراتر از عملکرد یک مدل خاص می‌باشد؛ چرا که سوال کلیدی این است که چت‌بات‌ها در مواجهه با کاربری که علائم بحران روانی بروز می‌دهد، تا چه حد باید در گفتگوها مشارکت کنند و چه زمانی باید ارتباط را قطع کرده و کاربر را به آغوش کمک‌های انسانی و تخصصی هدایت کنند.

این شکایت در شرایطی پیش می‌آید که تولیدکنندگان مدل‌های زبانی بزرگ تحت فشار فزاینده‌ای قرار دارند تا تدابیر ایمنی خود را در برابر وابستگی عاطفی کاربران، تقویت باورهای نادرست و واکنش به بحران‌های روانی سازی کنند.

منبع: futurism

۲۲۷۲۲۷