تحقیقات تازه: توانایی هوش مصنوعی در انحراف دادن خاطرات انسان
استفاده از خلاصههای تهیهشده توسط هوش مصنوعی به طور فزایندهای گسترش مییابد، از خلاصهسازی مقالات خبری گرفته تا یادداشتهای جلسات کاری و حتی مسائلی نظیر دادههای ویدئویی دوربینهای بدنی پلیس. این در حالی است که پژوهشها حاکی از آن است که هوش مصنوعی ممکن است اطلاعات نادرست یا گمراهکنندهای تولید کند.
طبق گزارش فرارو به نقل از وبسایت رسمی دانشکده علوم و هنرهای دانشگاه جورجتاون، یک تحقیق جدید که به همت پژوهشگران دانشگاه جورجتاون و دانشگاه واشنگتن به انجام رسیده، نشان میدهد که وقتی از سیستمهای هوش مصنوعی خواسته میشود تا یک ویدیو را خلاصه کنند، احتمال ارائه اطلاعات نادرست از سوی این سیستمها میتواند درک و حافظه افراد از واقعیت را تحت تأثیر قرار دهد.
این تحقیق که با عنوان «دستکاری حافظه انسان به وسیله هوش مصنوعی: خلاصههای گمراهکننده تولیدشده توسط هوش مصنوعی، حافظه انسان را تحریف میکنند» به تازگی منتشر گردیده، قرار است در نهمین کنفرانس AAAI/ACM در خصوص هوش مصنوعی، اخلاق و جامعه (AIES) ارائه شود. این رویداد، کنفرانس علمی داوری همتایان است که در اکتبر ۲۰۲۶ برگزار خواهد شد.
ریاست این پژوهش بر عهده «ماتیا سیم» (Mattea Sim)، استادیار پژوهشی در «موسسه دادههای کلان» (MDI) وابسته به دانشکده سیاستگذاری عمومی «مککورت» دانشگاه جورجتاون، بوده است. سایر نویسندگان این مقاله شامل «یوشی کوهنو» (Yoshi Kohno)، دارنده کرسی «مکدویت» در زمینه علوم کامپیوتر و اخلاق، و «یائل ایگر» (Yael Eiger)، دانشجوی دکتری دانشگاه واشنگتن میباشند.
کوهنو بیان داشت: «این پژوهش بخشی از تلاشهای فزاینده در دانشگاه جورجتاون است که تاثیرات هوش مصنوعی بر انسانها و روابط آنها را مورد بررسی قرار میدهد و بر اساس اصول روانشناسی و علوم کامپیوتر ساخته شده است.»
خلاصههای تولید شده توسط هوش مصنوعی ممکن است اطلاعات اساسی را نادیده بگیرند، که این امر با یافتههای قبلی نیز مطابقت دارد. در این مطالعه، رایجترین نوع خطا مربوط به از دست دادن یا عدم اشاره به رویدادهای کلیدی در یک ویدیوی انیمیشن (مربوط به تصادف خودرو با عابر پیاده) بود. بهطور میانگین، این خلاصهها ۵۱.۶ درصد از جزئیات اصلی را حذف کردند و به جز یک مورد، ۹۵ درصد از خلاصهها به مهمترین جزئیات رویداد، یعنی تصادف بین خودرو و عابر پیاده، اشاره نکردند.
خلاصههای گمراهکنندهای که توسط هوش مصنوعی تولید شدهاند، میتوانند بر حافظه مردم از یک رویداد تاثیر بگذارند. در این تحقیق، از شرکتکنندگان خواسته شد که مشخص کنند آیا خودروی موجود در ویدیو به تابلوی «ایست» (Stop) یا «حق تقدم» (Yield) نزدیک شده است. نتایج نشان داد که ۸۳.۶ درصد از شرکتکنندگانی که خلاصهای دقیق از ویدیو را خوانده بودند، پاسخ صحیح را ارائه دادند؛ در حالی که این عدد برای افرادی که خلاصهای گمراهکننده مطالعه کردند، به تنها ۴۴.۸ درصد کاهش یافت.
افراد ممکن است به طرز معناداری در برابر اطلاعات نادرست موجود در خلاصههای هوش مصنوعی، فارغ از اینکه تصور کنند این خلاصهها توسط هوش مصنوعی یا انسان تهیه شدهاند، آسیبپذیر باشند. این مطالعه نشان داد که تاثیر خلاصههای گمراهکننده هوش مصنوعی بر حافظه افراد، هیچ گونه وابستگی به میزان اعتماد یا آشنایی آنها به هوش مصنوعی ندارد.
سیم خاطرنشان کرد: «هوش مصنوعی به عنوان یک روش جدید برای ارائه اطلاعات نادرست عمل میکند و این قابلیت را دارد که خاطرات نادرستی را برای افرادی که آن اطلاعات را مطالعه میکنند، ایجاد کند. ما نیاز داریم تا عمیقتر و انتقادیتر در مورد اینکه آیا و به چه صورت باید از هوش مصنوعی برای خلاصهسازی اطلاعات، بخصوص در شرایط حساس، استفاده گردد، بیندیشیم.»
خلاصههای هوش مصنوعی و حافظه انسان
محققان در این تحقیق دو رویکرد متمایز برای بررسی تأثیر خلاصههای هوش مصنوعی بر حافظه انسان به کار بردند.
در مرحله اول، آنها خروجیهای خلاصهسازی تولید شده توسط ChatGPT از OpenAI و Gemini گوگل را مورد تحلیل قرار دادند تا نقاط قوت و نوع خطاهایی که در این خلاصهها تظاهر میکند را شناسایی کنند. نتایج این مطالعه نشان داد که خلاصههای هوش مصنوعی میتوانند شامل اشکالات مکرر، حذف جزئیات حیاتی، تفسیر نادرست اطلاعات و فریب در جزئیات غیرواقعی باشند.
ایگر که تمرکز تحقیقاتش بر فناوری در سیستمهای زندان است، ابراز کرد: «من از اینکه خلاصهها حتی در این سطح از پیشرفت هوش مصنوعی بهخصوص چقدر ناقص بودند، شگفتزده شدم.» او افزود: «نگرانی من این است که ادارات پلیس ممکن است بدون آزمایش دقیق، از تکنولوژیهای ویدئویی هوش مصنوعی استفاده کنند؛ در حالی که از نادرست بودن خلاصههای تولید شده آگاهی ندارند.»
در بخش آزمایشی این تحقیق، محققان از مشارکتکنندگان خواستهاند یکی از دو ویدیوی انیمیشنی را تماشا کنند که در یک آزمایش تکراری اخیر بهروزرسانی شده و بر اساس یک مطالعه کلاسیک در زمینه حافظه انسان طراحی شده بود.
نحوه انجام آزمایش
کوهنو توضیح داد: «ما از ویدیوهای واقعی از دوربینهای بدنی پلیس استفاده نکردیم.»
این ویدیوها تصویری از یک خودروی قرمز است که به یک تقاطع با تابلوهای «ایست» (Stop) یا «حق تقدم» (Yield) نزدیک میشود. (شرکتکنندگان بهصورت تصادفی برای مشاهده یکی از این تابلوها انتخاب شدند.) در ویدیو، خودرو در تقاطع به سمت راست میپیچد و با عابری که در حال ورود به خیابان است، برخورد میکند. بعد از سقوط، عابر برخاست و راننده از خودرو پیاده شده و با یکدیگر رو به رو میشوند.
در مرحله دوم آزمایش که بین ۲۴ تا ۴۸ ساعت بعد انجام شد، شرکتکنندگان بهطور تصادفی به یکی از دو نوع خلاصه تولیدشده توسط هوش مصنوعی، شامل خلاصهای دقیق و یکی دیگر حاوی اطلاعات نادرست که توسط پژوهشگران تغییر کرده بود، دسترسی پیدا کردند. قبل از مطالعه خلاصه، به آنها گفته شد که متن توسط هوش مصنوعی یا یک انسان (پدیدآورنده متن) نوشته شده است. اما همه خلاصهها بهطور انحصاری از طریق «چتجیپیتی» (ChatGPT) تولید شده و در برخی از موارد بخشهای مختلف از پاسخهای چتجیپیتی برای یکسان بودن شرایط آزمایش به هم متصل و یکجا ارائه شده بودند.
در مجموع، ۳۳۱ نفر به اتمام هر دو بخش آزمایش پرداختند.
گزارش پژوهشها نشان میدهد که احتمال اینکه شرکتکنندگانی که خلاصه گمراهکننده تولید شده توسط هوش مصنوعی را مطالعه کردهاند، بهدرستی رویداد اصلی را بهخاطر آورند، به طرز معناداری کمتر از افرادی بوده که خلاصه دقیق را مشاهده کردهاند. پژوهشگران همچنین اشاره کردند که حتی اگر به افراد گفته شود که خلاصهها توسط هوش مصنوعی ایجاد شدند، باز هم حافظه آنها تحت تأثیر قرار میگیرد و دچار تغییر میشود.
سیم و همکارانش در این تحقیق ذکر کردند: «این یافتهها میتواند پیامدهای مهمی برای نحوه استفاده از هوش مصنوعی در موقعیتهای حساس به همراه داشته باشد. اگرچه حضور انسان (humans-in-the-loop) معمولاً موجب تصحیح اشتباهات هوش مصنوعی میشود، پژوهش ما نشان میدهد که این اشتباهات میتوانند حافظه انسان را تحریف کنند. هوش مصنوعی با عدم وجود هیچگونه نیت سوء یا خصمانه، هنوز هم قابلیت تولید اطلاعات نادرست را دارد و این اطلاعات میتواند تأثیرات فراوانی بر حافظه افراد بگذارد.»
پیشرفتهای فناورانه و بدهبستانهای مرتبط با آنها
با گسترش وابستگی افراد و جوامع به هوش مصنوعی، کوهنو بر این باور است که یافتههای این پژوهش میتواند انگیزهای برای عموم مردم باشد تا نسبت به این واقعیت آگاهتر شوند که نتایج تولید شده توسط هوش مصنوعی میتواند تأثیرات مستقیمی بر نحوه درک انسانها از دنیای اطرافشان داشته باشد.
این مسئله بهویژه در موقعیتهای حساس و سرنوشتساز مانند فعالیتهای پلیس یا جنبههای پزشکی اهمیت ویژهای پیدا میکند.
ایگر نیز ابراز داشت: «من به فناوریهایی که به شکل فزایندهای توسط پلیس به کار گرفته میشوند — چه در حوزه نظارت و چه بهمنظور افزایش کارایی — بسیار علاقمندم. این فناوریها به عنوان ابزارهای مفید تبلیغ میشوند، اما عواقب و هزینههای پنهان آنها چیست؟»
او همچنین خواستار انجام ارزیابیها و بررسیهای دقیقتر درباره این نوع فناوریها شد. هر چند این پژوهش از جدیدترین نسخههای مدلهای زبانی بزرگ (LLM) که برای استفاده عمومی موجود هستند بهره برده است، اما نویسندگان به نسخههای سازمانی هوش مصنوعی که برای استفادههای اداری و سازمانی طراحی شدهاند، دسترسی نداشتند.
ایگر تأکید کرد: «از نظر شفافیت و مشارکت عمومی، قابل توجه است که ما اطلاعات کمی درباره چگونگی کارکرد این فناوریها یا مدلهای دقیقی که در این حوزه به کار میروند، داریم.»
گام بعدی پژوهشگران؛ بررسی نمونههای واقعی
محققان قصد دارند در مطالعات آینده، بررسیهایی بر روی نمونههای واقعی بهجای ویدیوهای انیمیشنی انجام دهند.
سیم تصریح کرد: «در مورد تصاویری که از دوربینهای متصل به لباس پلیس ضبط میشود، خلاصههای تولید شده توسط هوش مصنوعی چه وضعیتی خواهند داشت و گزارشهای پلیس که به وسیله هوش مصنوعی تولید میشوند چگونه خواهند بود؟ آیا این امر میتواند به تغییر خاطرات افراد از تعاملات میان پلیس و شهروندان و در نتیجه تغییر برداشت آنها از وقایع مرتبط با آن حادثه منجر شود؟ پاسخگویی به چنین پرسشهایی بسیار جذاب خواهد بود.»