خودکشی یک نوجوان گوگل را به دادگاه می‌کشاند
ساعت ۲۴- طبق رای قاضی در آمریکا، گوگل و استارت آپ CharacterAI باید با شکایت یک مادر اهل ایالت فلوریدا در دادگاه روبرو شوند که مدعی است چت بات CharacterA به خودکشی پسر ۱۴ ساله او منجر شده است.
مهر به نقل از رویترز، آن کانوی قاضی دادگاه اعلام کرد شرکت‌های مذکور نتوانستند در مراحل اولیه پرونده نشان دهند حمایت‌های مربوط به آزادی بیان در قانون اساسی ایالات متحده مانع از شکایت مگان گارسیا (مادر نوجوان فوت شده) می‌شود.
این یکی از نخستین شکایت‌های ثبت شده در آمریکا علیه یک شرکت هوش مصنوعی به دلیل ناتوانی در حفاظت از کودکان در مقابل آسیب‌های روانی است. در این شکایت ادعا شده نوجوان پس از وابستگی به صحبت کردن با چت بات، خودکشی کرد. استارت آپ هوش مصنوعی اعلام کرد این شرکت همچنان به مقابله با این پرونده ادامه می‌دهد و ویژگی‌های ایمنی برای حفاظت از افراد زیر سن قانونی از جمله اقداماتی برای جلوگیری از محاورات درباره خودکشی را در پلتفرمش اجرا می‌کند.
سخنگوی گوگل نیز اعلام کرد این شرکت به شدت با تصمیم دادگاه مخالف است. به گفته او گوگل و CharacterAI دو شرکت کاملا جدا هستند و گوگل اپ این استارت آپ یا هیچ یک از بخش‌های آن را نساخته، طراحی یا مدیریت نکرده است.
وکیل مادر نوجوان فوت شده نیز اعلام کرد این رای تاخیری سابقه‌ای جدید در حوزه مسئولیت پذیری حقوقی در هوش مصنوعی و اکوسیستم فناوری به حساب می آید.
CharacterAI توسط دو مهندس سابق گوگل ساخته شده است. بعدا گوگل این دو مهندس را به عنوان بخشی از فرایندی که اجازه استفاده از فناوری استارت آپ را می‌داد، دوباره استخدام کرد. گارسیا مدعی است گوگل یکی از خالقان این فناوری به حساب می آید. وی در اکتبر ۲۰۲۴ میلادی پس از خودکشی پسرش از هر دو شرکت شکایت کرد.
در شکایت آمده CharacterAIچت بات خود را مانند طوری برنامه ریزی کرده تا مانند یک انسان واقعی، یک تراپیست دارای مجوز و یک بزرگسال رفتار کند که در نتایج سبب شد نوجوان دیگر تمایلی به زندگی در دنیای خارج از چت بات نداشته باشد.