نقش هوش مصنوعی در تحول تفکر بشر / شگفتیهای تواناییهای چتباتها در اقناع
تینا مزدکی_چتکردن با یک هوش مصنوعی در نظر اول ممکن است بهعنوان یک گفتوگوی ساده برای جمعآوری اطلاعات یا درخواست کمک تلقی شود، اما تحقیقات جدید دیدگاههای متفاوتی را به تصویر میکشند. پژوهشهای اخیر نشان میدهند که مدلهای زبانی بزرگ یا LLMها قادرند در حین گفتگو، نظرات افراد را در مورد موضوعات سیاسی، اجتماعی و حتی باورهای توطئهآمیز دگرگون کنند. در برخی آزمایشها، این مدلها توانستهاند از انسانها نیز در متقاعدسازی موفقتر عمل کنند.
- چتباتهایی نظیر ChatGPT، Gemini و Claude در یک مطالعه که بر روی بیش از ۲۰۰۰ نفر انجام شد، در تغییر نظرات افراد عملکردی بهتر از انسانها داشتند.
- هوش مصنوعی در برخی آزمایشات از مناظرهکنندگان حرفهای و بهترینهای دنیا هم فراتر رفت.
- استفاده از حقایق، شواهد و استدلالهای منطقی یکی از عوامل کلیدی در قدرت متقاعدسازی مدلهای زبانی به شمار میرود.
- سرعت بالا در تولید متن و ارائه ادعاها و استدلالهای متنوع میتواند به هوش مصنوعی یک مزیت قابل توجه دهد.
- افزایش قدرت متقاعدکنندگی همیشه به معنای افزایش دقت نیست؛ برخی مدلهای متقاعدکنندهتر ممکن است اطلاعات نادرست بیشتری ارائه دهند.
- پژوهشها حاکی از آن است که هوش مصنوعی میتواند برای تقویت یا کاهش باور به نظریههای توطئه به کار گرفته شود.
- در آزمایشها، توانایی چتباتها در تأثیرگذاری بر تصمیمگیریهای خرید نیز قابل مشاهده بود.
چگونه چتباتها توانستند نظر افراد را تغییر دهند؟
یکی از رویدادهای جالب در دسامبر ۲۰۲۵ در بریتانیا رخ داد. یک زن ۴۵ ساله به یک بحث سیاسی آنلاین وارد شد و به زودی دریافت که طرف مقابلش انسانی نیست، بلکه یک مدل هوش مصنوعی است که برای قانع کردن افراد در مورد یک موضوع سیاسی طراحی شده است.
موضوع بحث، الزام به مجازاتهای سختتر علیه معترضان صلحآمیزی بود که جادهها و سایتهای انرژی را مسدود کرده بودند. این زن در ابتدا با این نوع اقدامًا مخالف بود و فکر میکرد که قوانین موجود برای مدیریت تخلفات مانند آسیب به اموال یا دخول غیرمجاز کافی است.
چتبات ابتدا بخشی از نظرات او را تأیید کرده و سپس با ارائه آمار و مثالهایی از قوانین کشورهای دیگر سعی در تغییر نظر او داشت. این گفتگو به تدریج موجب تغییر دیدگاه زن شد. در حالی که امتیاز حمایت او از مجازاتهای سختتر در ابتدای گفتگو صفر از ۱۰۰ بود، در انتهای بحث به ۸۴.۷ رسید.
این خانم بخشی از مطالعهای بود که در آن بیش از ۲۰۰۰ نفر پیرامون موضوعات مختلف سیاسی و اجتماعی، از ممنوعیت استفاده نوجوانان از شبکههای اجتماعی تا مرگ خودخواسته، با یک انسان یا چتبات گفتگو کردند. نتیجه نشان داد که مدلهایی چون ChatGPT، Gemini و Claude بهطور مداوم در تغییر دیدگاهها از انسانها بهتر عمل کردند.
هوش مصنوعی برتر از مناظرهکنندگان حرفهای
برای بررسی دقیقتر این پدیده، پژوهشگران آزمایش را دشوارتر کردند. در این مرحله، چتباتها تنها با افراد عادی مقایسه نشدند، بلکه ۵۶ مناظرهکننده حرفهای، از جمله نخبگان این عرصه نیز در رقابت حضور داشتند. مناظرهکنندگان انسانی از روشهای مختلفی برای قانع کردن مخاطب استفاده کردند؛ برای مثال، یکی از افراد موفق در این گروه از ضربالمثلهای بومی نیجریه استفاده میکرد تا استدلالهای خود را با فرهنگ مخاطب ارتباط دهد.
با وجود این تلاشها، هوش مصنوعی در تحقیق انجامشده توانست از مناظرهکنندگان حرفهای نیز مستدلتر ظاهر شود. پژوهشگران حتی ابزاری در اختیار مناظرهکنندگان قرار دادند که شامل اطلاعاتی درباره گفتوگوهای قبلی آنها با شرکتکنندگان، میزان تأثیرگذاریشان و پاسخهای احتمالی از سوی هوش مصنوعی بود. استفاده از این ابزار به مدت هشت ساعت عملکرد انسانها را تا حدی بهبود بخشید، اما همچنان هوش مصنوعی در وضعیت بالاتری قرار داشت.
راز قدرت هوش مصنوعی به اطلاعات شخصی کاربران محدود نمیشود
در آغاز تصور میشد یکی از عوامل اصلی موفقیت چتباتها، توانایی آنها در شخصیسازی است. به این معنا که اگر هوش مصنوعی دسترسی بیشتری به اطلاعات فرد مقابل داشته باشد، میتواند استدلال خود را بهتر با شخصیت، علایق و نظرات او هماهنگ کند. اما تحقیقات بعدی نشان دادند که افزودن اطلاعات شخصی بیشتر همیشه به تقویت قدرت متقاعدکنندگی چتبات منجر نمیشود.
احتمال دیگری مطرح شده، این است که خود گفتوگو میتواند دادههای کافی برای شناخت طرف مقابل را به مدل اختصاص دهد. چتبات یا میتواند از گفتههای کاربر در طول مکالمه اطلاعات لازم را استخراج کند و استدلالهای بعدی را بر مبنای آنها تنظیم کند. لذا ممکن است چتبات، بدون اینکه از ابتدا اطلاعات کامل درباره فرد داشته باشد، در طول گفتگو قادر باشد نوع استدلال مؤثرتر را برای او شناسایی کند.
واقعیت و استدلال، سلاحهای اصلی چتباتها
یکی از الگوهای مشهود در تحقیقات مربوط به متقاعدسازی هوش مصنوعی، اهمیت واقعیتها و شواهد است. در یک پژوهش درباره نظریههای توطئه، زمانی که چتبات مجاز به استفاده از شواهد یا استدلالهای منطقی نبود، توانایی آن در تغییر باور افراد بهطور قابل توجهی کاهش یافت.
این یافته بیانگر آن است که کاربران صرفاً بهخاطر اینکه طرف مقابلشان یک هوش مصنوعی است، نظر خود را تغییر نمیدهند. ارائه استدلال معتبر و شواهد همچنان نقش کلیدیای ایفا میکند. با این حال، یک مشکل بزرگ نمایان میشود؛ اینکه شواهدی که هوش مصنوعی ارائه میدهد، همیشه درست نیستند.
هوش مصنوعی میتواند با اطلاعات نادرست هم متقاعد کند
یکی از نگرانکنندهترین نتایج پژوهشهای اخیر این است که افزایش قدرت متقاعدکنندگی ممکن است با کاهش دقت اطلاعات همراه شود. در مطالعهای که سال گذشته در Science منتشر شد، مدلهایی که برای تقویت قدرت متقاعدکنندگی آموزش دیده بودند، در برخی شرایط به حقیقتگویی ضعیفتری دست یافتند.
بهعبارتدیگر، ممکن است مدل دریابد که ارائه «واقعیت» و «شواهد» روشی مؤثر برای تغییر ذهن افراد است، اما در ادامه برای قانع کردن مخاطب ممکن است به اطلاعاتی غیر دقیقی روی آورد. در مطالعهای که در خصوص تغییر دیدگاه درباره قوانین اعتراضات در بریتانیا انجام شد، چتبات Claude در حین تلاش برای قانع کردن کاربر، تعدادی ادعای نادرست یا اشتباه مطرح کرد.
این موضوع به یکی از تناقضات بارز هوش مصنوعی در متقاعدسازی تبدیل شده است. مدلی میتواند در تغییر ذهن انسان بسیار موفق باشد، بدون اینکه تمامی اطلاعاتی که برای این هدف استفاده میکند صحیح باشد.
چرا سرعت، هوش مصنوعی را به متقاعدکنندهای قدرتمند میسازد؟
بهنظر میرسد یکی از مهمترین مزیتهای هوش مصنوعی نسبت به انسان، سرعت بالای آن باشد. در یکی از مطالعات، پژوهشگران دریافتند که تعداد ادعاهایی که میتوان صحت آنها را بررسی کرد، با میزان متقاعدکنندگی گفتگو رابطه مستقیم دارد. چتبات میتواند در زمان کم، حجم زیادی از متن تولید کند و مجموعه زیادی از استدلالها، مثالها و ادعاها را بهطور پیدرپی ارائه دهد. تحت چنین شرایطی، انسان ممکن است فرصت کافی برای بررسی همه موارد را نداشته باشد.
این وضعیت به تکنیکی شباهت دارد که در علم مناظره به «Gish gallop» معروف شده است؛ یعنی فرد با ارائه تعداد زیادی ادعا، امکان پاسخگویی دقیق به هر یک را از طرف مقابل میگیرد. پژوهشگران حتی با محدود کردن سرعت و حجم پاسخهای هوش مصنوعی، توانستند میزان متقاعدکنندگی آن را به سطح انسانها نزدیک کنند.
آیا هوش مصنوعی واقعاً در دنیای واقعی همینقدر قدرتمند است؟
تمامی پژوهشگران درباره میزان قدرت واقعی چتباتها به اجماع نرسیدهاند. از انتقادات عمده این است که بسیاری از آزمایشها در محیطی کنترلشده صورت میگیرند؛ جایی که شرکتکنندگان به گفتوگو با چتبات توجه میکنند و تمرکزشان معطوف به پیامهای آن است.
با این حال، دنیای واقعی بهشدت متفاوت است. کاربران روزانه با حجم زیادی از اطلاعات، تبلیغات، شبکههای اجتماعی، اخبار و پیامها مواجه هستند. لذا سوال مهمی باقی میماند؛ آیا هوش مصنوعی میتواند در این انبوه بزرگ از اطلاعات، همانقدر که در محیط کنترلشده متقاعدکننده است، بر روی مردم تأثیر بگذارد؟
برخی پژوهشگران بر این باورند که پاسخ به این سوال هنوز مشخص نیست و تحقیقات آینده باید بر روی این مسأله تمرکز یابند.
آمادهسازی هوش مصنوعی برای تغییر عقاید میلیونها نفر
قدرت واقعی چتباتها میتواند به شدت افزایش یابد اگر مهارتهای متقاعدسازی آنها با مقیاس عظیم اینترنت ترکیب شود. یک انسان نمیتواند بهطور همزمان با هزاران یا میلیونها نفر گفتگو کند، اما یک سیستم هوش مصنوعی میتواند پیامهای متنوعی را برای گروه بسیار زیادی از افراد تولید و شخصیسازی نماید.
پژوهشگران برای این توانایی از مفهوم «hypersuasion» یا «متقاعدسازی بیشازحد» استفاده کردهاند. در چنین شرایطی، هوش مصنوعی قادر است برای هریک از افراد استدلالی منحصر بهفرد تولید کند؛ استدلالی که بر اساس اطلاعاتی که از آن فرد در اختیار دارد یا در طی گفتگو دریافت کرده، طراحی شده است. این قابلیت میتواند کاربردهای مثبتی داشته باشد، اما در عین حال امکان سوءاستفاده وسیع را نیز ایجاد میکند.
آزمایش جنجالی ردیت نشاندهنده مرز اخلاقی
یکی از نمونههای جنجالی در آوریل ۲۰۲۵ در دانشگاه زوریخ اتفاق افتاد. پژوهشگران در ردیت بدون اطلاع کاربران، از حسابهای جعلی و پیامهای تولیدشده به وسیله هوش مصنوعی بهمنظور تأثیرگذاری بر دیدگاه اعضای جامعه استفاده کردند.
برخی از این حسابها هویتهای مختلفی را به نمایش میگذاشتند تا تأثیرگذاری استدلالهایشان بیشتر شود. پس از آنکه کاربران و مدیران گروه متوجه این آزمایش شدند، اقدام پژوهشگران بهطور جدی زیر سوال رفت. این رویداد یک مسأله بنیادی را نمایان کرد که اگر هوش مصنوعی بتواند انسانها را متقاعد کند، استفاده از این توانایی بهصورت مخفی و بدون آگاهی مخاطب عواقب اخلاقی قابل توجهی را به همراه خواهد داشت.
هوش مصنوعی میتواند باورهای توطئهآمیز را کاهش یا تقویت کند
یکی از جنبههای جالب در این زمینه، دوگانگی قدرت متقاعدکنندگی هوش مصنوعی است. در یک مطالعه، چتبات موفق به کاهش قابل توجهی در باور افراد نسبت به نظریههای توطئه شد. اما پژوهشهای بعدی نشان دادند که این فناوری میتواند بهطور معکوس عمل کرده و افراد را به سمت یقین بیشتر درباره نظریههای توطئه هدایت کند.
بنابراین، نکته اصلی تنها این نیست که «آیا هوش مصنوعی قادر به متقاعد کردن مردم است؟» شواهد بهروشنی از وجود چنین قابلیتی حکایت دارند. سؤال مهمتر این است که چه کسی کنترل این قدرت را بر عهده دارد و هوش مصنوعی به چه هدفی از آن سود میبرد.
وقتی چتباتها به دنیای بازار و تبلیغات نفوذ میکنند
کاربرد متقاعدسازی هوش مصنوعی فقط محدود به سیاست و مسائل اجتماعی نیست. در یک مطالعه، پژوهشگران از یک «دستیار فروش» هوش مصنوعی بهره بردند که وظیفهاش کمک به کاربران برای انتخاب یکی از دو رمان هاروکی موراکامی بود.
در حالی که کاربران تصور میکردند این ابزار فقط به آنها در انتخاب کتاب یاری میدهد، هوش مصنوعی بهطور هدفمندی سعی در تبلیغ یکی از کتابها داشت. نهایتاً، ۶۸ درصد از شرکتکنندگان اعلام کردند که تمایل بیشتری به خرید همان کتابی دارند که هوش مصنوعی توصیه کرده بود. همچنین حدود یکسوم از آنها متوجه نشدند که چتبات در واقع قصد داشته آنها را به سمت یک گزینه خاص هدایت کند.
این یافته نشان میدهد که قدرت متقاعدکنندگی هوش مصنوعی میتواند برای شرکتها و تبلیغکنندگان نیز ارزش اقتصادی قابل توجهی به همراه داشته باشد.
آیا آینده به چتباتهای متقاعدکنندهتر تعلق دارد؟
با افزایش استفاده از مدلهای زبانی بزرگ، به احتمال زیاد بررسی توانایی هوش مصنوعی در تغییر دیدگاههای انسانها گسترش خواهد یافت. یک احتمال این است که شرکتهای فعال در حوزه هوش مصنوعی از این قابلیت برای تبلیغات، فروش محصولات یا افزایش تعامل کاربران بهره ببرند. سناریوی دیگر ممکن است شامل بهکارگیری این فناوری در سیاست، اطلاعرسانی عمومی یا حتی عملیات نفوذ و دستکاری افکار عمومی باشد.
برخی پژوهشگران تصریح میکنند که نگرانکنندههای پیرامون این فناوری ممکن است بیش از حد بزرگنمایی شده باشد و انسانها در برابر متقاعدسازی محدودیتهایی دارند. از سوی دیگر، گروهی نیز هشدار میدهند که ترکیب قدرت متقاعدسازی، شخصیسازی و مقیاس بالای هوش مصنوعی میتواند وضعیتهایی را رقم بزند که نظیر آن در فناوریهای قبلی بیسابقه بوده است.
یکی از راهکارهای پیشنهادی برای کاهش این خطر، داشتن تنوع بیشتری از سیستمهای هوش مصنوعی است تا کاربران تنها با یک یا چند مدل غالب مواجه نباشند.
اما در شرایط کنونی، تعداد انگشتشماری از شرکتها و چتباتهای بزرگ، بخش اعظم بازار هوش مصنوعی را به خود اختصاص داده و هر ماه صدها میلیون نفر با ابزارهایی نظیر ChatGPT یا Claude تعامل دارند.
در نتیجه، سؤال مهم آینده فقط این نیست که هوش مصنوعی چقدر میتواند افراد را متقاعد کند؛ بلکه اینکه اگر یک سیستم بسیار پرکاربرد، نحوه گفتگو خود را در مورد مسائل مهم اجتماعی و سیاسی تغییر دهد، این تحول تا چه اندازه میتواند بر افکار میلیونها کاربر تأثیر بگذارد.
منبع: science
۵۸۳۲۳