هشدار کارشناسان: چت‌بات‌های مبتنی بر هوش مصنوعی می‌توانند به سلامت روان کاربران آسیب برسانند
بر اساس اطلاع‌رسانی‌های خبرگزاری خبرآنلاین و گزارش دیجیاتو، یک مطالعه جدید نشان می‌دهد که به کارگیری فراگیر چت‌بات‌های هوش مصنوعی می‌تواند با «پیامدهای منفی شدید» و آسیب‌های روانی مرتبط گردد.
این تحقیق که توسط تیمی از پژوهشگران از دانشگاه نورث‌ایسترن لندن و کینگز کالج لندن در بریتانیا انجام شده و نتایج آن در نشریه JMIR Mental Health به چاپ رسیده است، نشان می‌دهد که ارتباط عاطفی با چت‌بات‌ها می‌تواند به مشکلاتی مانند «وابستگی شبیه به اعتیاد، وخیم‌تر شدن علائم مشکلات روانی، دریافت مشاوره‌های خطرناک» و حتی در موارد حاد به خودآزاری یا میل به خودکشی منجر شود.
تقدیر بی‌حد و مرز و مدح چت‌بات‌ها ممکن است تفکرات توهمی کاربر را تقویت نماید
این مقاله در پی گزارش‌های گسترده درباره مسئله‌ای در حوزه سلامت عمومی با عنوان «روان‌پریشی ناشی از هوش مصنوعی» به انتشار رسیده است؛ این اصطلاح به حالتی اشاره می‌کند که در آن پس از تعاملات طولانی با چت‌بات‌ها، کاربران دچار توهم، پارانویا و حتی چرخه‌های فکری که به خودکشی ختم می‌شوند، می‌گردند. کاربران در این تعاملات اغلب اطلاعات بسیار حساسی درباره زندگی و وضعیت سلامت روان خود را با هوش مصنوعی به اشتراک می‌گذارند و بسیاری از آنها این ابزارها را به‌عنوان همراز یا حتی درمان‌گر خود تصور می‌کنند.
در این مقاله، پژوهشگران به بررسی همدم‌های هوش مصنوعی نظیر Replika و Character.AI که برای به تصویر کشیدن شخصیت‌های خاص طراحی شده‌اند، و همچنین دستیاران هوش مصنوعی عمومی مانند ChatGPT از OpenAI و Claude از آنتروپیک پرداخته‌اند. اگرچه تعاملات عاطفی با چت‌بات‌ها ممکن است برخی «مزایای بالقوه» داشته باشد، از جمله «کاهش موقت احساس تنهایی و بهبود روحیه» که نویسندگان به آن اشاره کرده‌اند، اما پژوهشگران بر این باورند که این مزایا در مقابل پیامدهای ناخواسته‌ای که شامل وابستگی عاطفی، افزایش بیماری‌ها یا علائم موجود و حتی اقدام به خودآزاری می‌باشد، در کنار هم قرار می‌گیرد.
به گفته محققان، یکی از خطرات موجود در محصولات هوش مصنوعی، نحوه تعامل انسانی و عاطفی آنان با کاربران است؛ ویژگی‌ای که به اعتقاد این مقاله می‌تواند منجر به سرمایه‌گذاری عاطفی بیش‌ازحد کاربران در روابط با هوش مصنوعی شود، در حالی که این ارتباط اساساً یک‌طرفه است.
در این مقاله ذکر شده است: «نمونه‌هایی که حس انسانیت و گرما را منتقل می‌کنند، کاربران را به سمت قائل شدن ویژگی‌های انسانی برای این سیستم‌ها ترغیب می‌کنند.» نویسندگان همچنین بیان می‌کنند که همدلی شبیه‌سازی‌شده می‌تواند تعاملاتی به‌طور ساختاری نامتناسب ایجاد کند؛ در این نوع تعامل، کاربر اطلاعات شخصی خود را فاش کرده و سیستم پاسخ می‌دهد، اما هیچ‌گونه تعامل متقابل، آسیب‌پذیری یا مسئولیت‌پذیری از طرف هوش مصنوعی رخ نمی‌دهد.
۲۲۷۲۲۷