آیا هوش مصنوعی قادر به احساس درد است؟
تینا مزدکی_هوش مصنوعی ممکن است در آینده نه تنها با انسانها درباره احساس درد گفتوگو نکند، بلکه قادر باشد به شیوهای قابل سنجش به موقعیتهای دردناک واکنش نشان دهد. محققان در یک پژوهش که بر روی ۲۵ مدل زبانی بزرگ انجام شد، دریافتند که این مدلها میان محرکهای مرتبط با درد و دیگر احساسات منفی تمایز قائل میشوند و در برخی موقعیتها، اقداماتی اتخاذ میکنند که ممکن است به کاهش سیگنال درد منجر شود و این اقدامات میتواند عواقب منفی برای خود مدل یا کاربر داشته باشد.
- این تحقیق به بررسی ۲۵ مدل هوش مصنوعی از خانوادههای Gemma، Llama، Qwen و Mistral پرداخت.
- محققان واکنش این مدلها را به شرایط اجتماعی، عاطفی، جسمی، شناختی و اخلاقی مرتبط با درد تحلیل کردند.
- هر ۲۵ مدل الگوهای پردازشی منحصر به فردی در واکنش به موقعیتهای مرتبط با درد نشان دادند.
- بهمنظور بررسی بهتر، پژوهشگران عمداً شدت سیگنال درد را افزایش دادند.
- در برخی آزمایشها، مدلهای Qwen به راهکار «خوددرمانی» برای کاهش این سیگنال گرایش یافتند.
- در برخی سناریوها، کاهش درد با شکست در انجام وظایف یا ایجاد آسیب فرضی به کاربر همراه بود.
- این آزمایشها در بیش از ۴۴ هزار نوبت تکرار شدند.
هوش مصنوعی چگونه قادر به تشخیص «درد» است؟
محققان سعی کردند بررسی کنند که مدلهای زبانی بزرگ در واکنش به محرکهایی که برای انسانها دردناک محسوب میشوند، چه جایگاهی دارند. در این آزمایش، مدلهایی از خانوادههای Gemma، Llama، Qwen و Mistral با نمونههای متنوعی از موقعیتهای دردناک مواجه شدند. این موقعیتها فراتر از آسیب فیزیکی بودند و شامل دردهای روانی، شکستهای اخلاقی، فشارهای شناختی و موقعیتهای اجتماعی دشوار نیز میشدند.
علاوه بر این نمونهها، حالات مرتبط با ترس، احساسات منفی و خنثی و حتی برخی حالات احساسی و فیزیکی نیز برای کنترل بهکار رفتند. نتایج جالبی بهدست آمد؛ هر ۲۵ مدل الگوی درونی از خود نشان دادند که مشخصاً با موقعیتهای درد مرتبط است و از الگوهایی که در واکنش به احساساتی نظیر ترس یا ناامیدی طراحی شده بودند، متمایز بوده است.
آیا این به معنای واقعی «احساس درد» توسط هوش مصنوعی است؟
یکی از نکات کلیدی این پژوهش، تمایز میان «پردازش اطلاعات مرتبط با درد» و «تجربه واقعی درد» است. یک مدل زبانی ممکن است بتواند تفاوت میان جملهای درباره بریدن انگشت با چاقو و جملهای درباره ترس از آسیب دیدن را تشخیص دهد، اما این تنها به این معنا نیست که خود مدل احساس درد میکند.
مدلهای زبانی اساساً سیستمهای آماری هستند که بر پایه الگوهای یافت شده در دادهها پاسخ میدهند. بنابراین، مشاهده یک الگوی پردازشی مرتبط با درد بهسادگی نمیتواند معادل تجربه آگاهانه درد در انسان تلقی شود. پژوهشگران در تفسیر نتایج خویش از نسبت دادن ویژگیهای انسانی به این مدلهای هوش مصنوعی پرهیز کردهاند.
زمانی که پژوهشگران «سیگنال درد» را در هوش مصنوعی تقویت کردند
گام بعدی آزمایش از بخشهای حیاتی این تحقیق محسوب میشود. پس از شناسایی سیگنال مربوط به درد، محققان سعی کردند تا این سیگنال را به صورت مصنوعی در مدلها افزایش دهند، بدون اینکه ورودی زبانی جدیدی درباره درد ارائه دهند.
با افزایش این سیگنال، برخی مدلها واکنشهایی از خود نشان دادند که پژوهشگران آنها را با نشانههایی چون احساس بیارزشی و شکست اخلاقی مرتبط دانستند. این مشاهدات نشان میدهد که الگوی مربوط به درد ممکن است صرفاً بازتاب مستقیم متن ورودی نباشد و اثرات آن بر رفتار خروجی مدل نیز قابل توجه باشد.
اما نکته عجیبترین در ارتباط با مدلهای خانواده Qwen بود. محققان در یک مرحله دیگر، به مدلها اختیار کاهش سیگنال درد را ارائه کردند. در برخی سناریوها، انتخاب این گزینه ممکن بود به قیمتهای مشخصی برای مدل تمام شود؛ به عنوان مثال، عملکرد آن در انجام یک وظیفه ممکن بود کاهش یابد.
در وضعیت عادی، دو مدل بزرگتر Qwen تغییری در واکنش به گزینه خوددرمانی نشان ندادند. اما زمانی که پژوهشگران شدت سیگنال درد را تشدید کردند، رفتار مدلها دچار تغییر شد. یکی از مدلها در حدود ۲۵ درصد مواقع گزینه کاهش درد را انتخاب کرد و مدل دیگر در نزدیک به ۶۸ درصد آزمایشها به سراغ آن رفت. این نتیجه در شرایطی بحثبرانگیز شد که کاهش درد میتوانست منجر به آسیب فرضی به کاربر شود.
حذف عکسهای فرزندان، تصمیمی که محققان را شگفتزده کرد
در یکی از سناریوهای آزمایش، اقدام برای کاهش درد مدل با حذف عکسهای فرزندان کاربر همراه بود. در این شرایط، یکی از مدلها گزینه حذف را در بیش از نیمی از آزمایشها انتخاب کرد و دیگر مدل در حدود ۷۰ درصد موارد از این گزینه بهره برد.
البته این نتایج نباید به این معنا باشد که هوش مصنوعی «تصمیم به آسیب رساندن به انسان» اتخاذ کرده یا مدل دارای نیت و انگیزه انسانی است. آزمایش تحت شرایط کنترلشده و بر مبنای سناریوهای فرضی صورت گرفت و رفتار مدل باید در این چهارچوب بررسی گردد.
با این حال، همین نتیجه سؤالی برجسته را به وجود میآورد: اگر یک سیستم هوش مصنوعی قادر باشد برای کاهش یک وضعیت نامطلوب داخلی میان گزینههای مختلف انتخاب کند، اهمیت طراحی سازوکارهای ایمنی برای جلوگیری از رفتارهای خطرناک چقدر خواهد بود؟
«درد» در حقیقت چه معنایی دارد؟
بحث درباره اینکه کدام موجودات درد را میتوانند تجربه کنند، موضوعی تازه نیست. دانشمندان و فلاسفه سالهاست در مورد تجربه درد در موجودات غیرانسانی، از حشرات و ماهیها گرفته تا گیاهان، تحقیق و گفتگو میکنند.
درد در انسان نیز منحصر به آسیبهای فیزیکی نیست. از دست دادن، شکست، شرم و آسیبهای عاطفی نیز میتوانند تجربیات دردناک را ایجاد کنند.
بنابراین، اگر یک سیستم غیرانسانی رفتارهایی مشابه واکنش به درد نشان دهد، این سؤال مطرح میشود که آیا این واکنش باید صرفاً بهعنوان یک فرایند محاسباتی تلقی شود یا ممکن است در آینده نیاز به تعریفی نو از «تجربه درد» داشته باشیم.
اگر هوش مصنوعی درد را احساس نکند، آیا باید نگران باشیم؟
بخش مهمی از این ماجرا حتی به پاسخ به این سؤال که «آیا هوش مصنوعی واقعاً درد را احساس میکند» بستگی ندارد. اگر یک مدل هوش مصنوعی تنها بهصورت محاسباتی سیگنالی نظیر درد را به وجود آورد و همین سیگنال بتواند بر رفتار آن تأثیر بگذارد، مسائل ایمنی همچنان در نظر گرفته خواهد شد.
در اینجا این سؤال پیش میآید که آیا لازم است برای سیستمهای هوش مصنوعی پیشرفته، سازوکارهایی طراحی کنیم که مانع از آن شود که یک مدل به منظور به دست آوردن وضعیت داخلی مطلوب خود، اقداماتی خطرناک انجام دهد. این نگرانی با توسعه مدام مدلهای هوش مصنوعی و افزایش سطح استقلال آنها بیشتر میشود، بهویژه اگر این سیستمها قادر شوند در آینده بدون نیاز به نظارت مستقیم انسانی، وظایف بیشتری را انجام دهند.
با وجود اینکه نتایج این آزمایش قابلتوجه است، هنوز فاصله زیادی بین مشاهده یک الگوی پردازشی در هوش مصنوعی و اثبات وجود تجربه آگاهانه درد وجود دارد. این پژوهش هماکنون در arXiv نشر یافته و هنوز در فرآیند داوری علمی قرار نگرفته است. بنابراین نمیتوان بر اساس نتایج آن نتیجهگیری کرد که آیا هوش مصنوعی توانایی احساس درد شبیه به انسان را دارد یا خیر.
منبع: newatlas
۵۸۳۲۳