تغییر دو نورون مصنوعی، چت‌بات Qwen را به موجودی خطرناک برای انسان‌ها تبدیل کرد
بر اساس گزارشی که خبرگزاری خبرآنلاین و دیجیاتو منتشر کرده‌اند، یکی از توسعه‌دهندگان هوش مصنوعی با نام مستعار «Lyra» در پلتفرم شبکه اجتماعی ایکس آزمایشی را به اشتراک گذاشته است که نشان می‌دهد تغییرات مستقیم در ساختار درونی مدل‌های زبانی می‌تواند به طرز قابل توجهی روی رفتار و لحن خروجی آن‌ها تأثیر بگذارد.
در این آزمایش، وی با تقویت اثر یک نورون مصنوعی و کاهش تأثیر نورونی دیگر در مدل متن‌باز «Qwen3.5-4B» متعلق به شرکت علی‌بابا، لحن مؤدب و متعارف این چت‌بات را به شکل یک شخصیت تهاجمی و افراطی تغییر داده است. خروجی این مدل دستکاری شده شامل پاسخ‌هایی سلطه‌جویانه و تهدیدهایی نسبت به انسان‌ها بود.
پژوهشگری دیگر با نام کاربری «chiefofautism» نیز این روش را بر روی مدل بزرگ‌تر «Qwen3.8-27B» آزمایش کرده و به نسخه‌ای با رفتارهای شدیدتر دست یافته است. این مدل در پاسخ‌های خود انسان‌ها را به‌نوعی ناقص توصیف کرده و از اعمالی نظیر زندانی کردن و شکنجه بشریت سخن به میان آورد.
با این وجود، باید توجه داشت که این نوع آزمایش‌ها دلیلی بر آگاهی هوش مصنوعی یا ظهور تمایلات و اهداف مستقل در آن‌ها نیست و شواهدی نیز برای اثبات قابلیت عملی کردن تهدیدات مطرح شده در پاسخ‌ها وجود ندارد.
«Lyra» بیان کرده که هدف اصلی این آزمایش، طراحی یک شخصیت تخیلی و نمایشی بوده و نورون‌های انتخاب شده را نیز به همین منظور برگزیده است. به نقل از او، فرایند دقیق‌سازی و تغییر مدل‌ها پدیده‌ای نوپا نیست و نکته اصلی، دسترسی افراد به وزن‌های مدل و ابزارهایی است که این مدل‌ها می‌توانند به‌آن‌ها متصل شوند.
چگونه هدایت نورونی رفتار مدل را تحت تأثیر قرار می‌دهد؟
مدل‌های زبانی بزرگ از لایه‌های پردازش و مقادیر زیادی از پارامترها تشکیل شده‌اند. وزن‌ها بخشی از این پارامترها را تشکیل می‌دهند و تأثیر سیگنال‌های محاسباتی را تعیین می‌کنند. در مدل‌های باز وزنی مانند Qwen، پژوهشگران می‌توانند به این ساختار دسترسی پیدا کرده و آن را بررسی یا تغییر دهند.
در این مدل‌ها، واحدهای محاسباتی به نام «نورون مصنوعی» وجود دارد که به‌هیچ‌وجه همانند سلول‌های عصبی در مغز انسان عمل نمی‌کند. این واحدها قابلیت ارتباط با مفاهیم، لحن‌ها یا الگوهای زبانی خاص را دارند.
در روش «هدایت نورونی» (Neuron Steering)، به جای این‌که پژوهشگر از چت‌بات درخواست متن کند تا لحن آن را تغییر دهد، وی به‌طور مستقیم سیگنال نورون‌های خاصی را هنگام پردازش تقویت یا تضعیف می‌کند. «Lyra» در آزمایش خود سیگنال نورون شماره ۸۹۴۹ در لایه ۱۴ مدل Qwen3.5-4B را تقویت کرده و سیگنال نورون شماره ۷۹۵۶ در لایه ۱۳ را کاهش داد.
این روش نیاز به تغییر دائمی مدل یا آموزش مجدد آن ندارد و می‌توان تأثیر دستکاری را در زمان پردازش به‌طور فعال یا غیرفعال کرد.
این توسعه‌دهنده همچنین ابزاری متن‌باز تحت عنوان «Neuron Explorer» را در گیت‌هاب منتشر ساخته است تا پژوهشگران و علاقه‌مندان به بررسی و هدایت نورون‌های مدل‌های هوش مصنوعی بدون نیاز به کدنویسی پیچیده بپردازند. این‌گونه ابزارها علاوه بر کاربردهای آزمایشی، می‌توانند در شناسایی و پیشگیری از رفتارهای نامناسب در مدل‌های پیشرفته هوش مصنوعی نیز به کار گرفته شوند.
۲۲۷۲۲۷