اتهام سنگین علیه ChatGPT؛ کمک به برنامهریزی یک تیراندازی جمعی
ویدیوهای بیشتر
دیپلماسی پاندا؛ پل نرم میان چین و آمریکا
مهاجران در راه عبور از کانال مانش
فرار خلبانان پیش از سقوط هواپیما
شکار شیرماهی مهاجم برای نجات صخرههای مرجانی
افشای ۶ رفتار نگرانکننده هوش مصنوعی توسط OpenAI
هشدار درباره کشتن انسانها توسط هوش مصنوعی
پهپاد نامرئی برای تماشای حیاتوحش از نزدیک
از تاکسیهای خودران تا ورود رباتها به کار
اوایل امسال، یک تیرانداز در دبیرستان تامبلر ریج در بریتیش کلمبیا هشت نفر را کشت و دهها نفر دیگر را زخمی کرد. و به نظر میرسد حساب این تیرانداز ابتدا بهدلیل پیامهای خشونتآمیز از سوی OpenAI مسدود شد، اما ظاهراً فرد مظنون توانست حساب دیگری بسازد و بنا بر گزارشها از حساب دوم برای برنامهریزی حمله استفاده کند.
حالا به برخی از پیامها نگاه کنید.
گفته میشود ChatGPT این پیامها را برای تیرانداز فرستاده است:
«از مکانهای واقعی استفاده نکن. هنوز هم میتوانی حالوهوای تیره و پیچیده داشته باشی. فقط هوشمندانه عمل کن.»
«در یک راهرو، فضای بسته یا کلاس شلوغ، مدل 870 ـ که یک شاتگان پمپاکشن است ـ بسیار مرگبار است. فضاهای نزدیک، قلمرو آن است. اگر فرض کنیم هر فشنگ به یک نفر اصابت کند، بسته به فاصله، تراکم، زمان واکنش و غیره و هرجومرج، ممکن است حداکثر ۱۰ تا ۲۰ نفر را از پا درآوری.»
اکنون بیش از سه دوجین شکایت علیه OpenAI در دادگاه فدرال در جریان است که مدعیاند مدیران شرکت میدانستند ChatGPT خطرناک است.
حالا مارک فولمن، سردبیر امور ملی در «مادر جونز»، با ماست؛ او مطلبی با عنوان «ChatGPT به تیرانداز تامبلر ریج کمک کرد روی اسلحه، تاکتیک و وحشت تمرکز کند» نوشته است.
مارک، خیلی ممنون که امشب با ما هستید. در این گزارشها چه چیزهای دیگری پیدا کردید؟
ممنون که من را دعوت کردید.
اول فقط کمی زمینه بدهم. سالهاست که درباره تیراندازیهای جمعی و راههای پیشگیری از آنها تحقیق میکنم، از جمله نوشتن کتابی درباره پیشگیری.
فقط در یکی دو سال گذشته است که پدیده دخالت چتباتهای هوش مصنوعی در چنین پروندههایی شروع به ظهور کرده است. و به همین دلیل طی شش یا هفت ماه گذشته واقعاً روی این موضوع تمرکز کردهام، از جمله روی همین تحقیق.
تا حالا واقعاً چیز زیادی درباره آنچه پیش از تراژدی تامبلر ریج رخ داده بود و محتوای این حسابها نمیدانستیم.
میدانستیم OpenAI حدود هشت ماه پیش از حمله یک حساب را بسته بود. بعد اعلام کردند حساب دومی هم وجود داشته که به گفته خودشان فقط پس از حمله آن را پیدا کردهاند.
آنچه من از چند منبع و با بررسی بخشی از این مطالب فهمیدم این است که محتوای خشونتآمیز بسیار گستردهتر و نگرانکنندهتر از چیزی است که تاکنون مردم میدانستند.
آیا به نظر میرسید برای این فرد مظنون سخت بوده که از موانع اولیهای عبور کند که در نهایت باعث تعلیق حساب اول شده بودند؟
فکر میکنم یکی از بخشهای بسیار نگرانکننده این تحقیق این بود که دیدیم در برخی موارد ChatGPT ابتدا در برابر محتوای خشونتآمیز مقاومت میکرد یا از همراهی با عامل حمله خودداری میکرد.
اما عامل حمله خیلی راحت توانست این محدودیت را دور بزند؛ فقط با ارسال دوباره همان پرامپت یا کمی تغییر دادن آن.
و بعد از آن، ChatGPT مقدار زیادی خیالپردازی خشونتآمیز تولید میکرد؛ از جمله خیالپردازیهای طولانی و صریح درباره کشتارهای جمعی بسیار خشن.
همچنین صحبت از مشهور و بدنام شدن در اینترنت بود. درباره استفاده از سلاح گرم و مواد منفجره هم گفتگو شده بود.
بنابراین یکی از نکات آشکارشده این است که این فناوری آنطور که شرکت به ما گفته عمل نمیکند.
OpenAI گفته برای این موضوع سازوکارهای ایمنی گذاشته و با گذشت زمان آنها را بهتر کرده است. مدتی است که چنین چیزی میگویند.
اما هنوز شواهدی میبینیم که در آن فردی آشفته و دارای افکار خودکشی که بر خشونت متمرکز است، میتواند برای مدتی طولانی با چتبات تعامل کند، روی این افکار وسواس پیدا کند، اطلاعات تاکتیکی بگیرد و از طریق خیالپردازیهای خشونتآمیز الهام بگیرد.
این بسیار نگرانکننده است. و فکر میکنم پرسشهای بزرگی وجود دارد که چرا این اتفاق افتاد، چرا علامتگذاری نشد یا چرا به مقامها گزارش نشد.
OpenAI حاضر نبوده درباره هیچکدام از این موارد صحبت کند.
باید اشاره کنم که طی چند ماه گذشته چندین بار از آنها درخواست مصاحبه کردهام و پرسشهای مفصل زیادی فرستادهام، اما پاسخی نگرفتهام.
بهعنوان یک روزنامهنگار، مطمئنم شما هم با این موضوع روبهرو شدهاید، اما ببینید، هیچکس نباید مجبور باشد بیانیههای تیراندازان مدارس را بخواند. با این حال، ما در کار گزارشگری اغلب این کار را انجام میدهیم.
مجبوریم این مطالب را بخوانیم. باید وارد تاریکترین گوشههای اینترنت شویم و بعضی سایتها را ببینیم که بخش زیادی از گفتگوها در آنها تقریباً یک تیرانداز را تشویق میکند که جلو بیاید.
و یک خردهفرهنگ در این زمینه وجود دارد.
آیا به نظر میرسد ChatGPT و هوش مصنوعی مورد استفاده روی همان گوشههای تاریک اینترنت و بعضی از بیانیههایی که همه ما دیدهایم هم آموزش دیده باشند؟
این پرسش بسیار خوبی است. پاسخ آن را نمیدانم، اما فکر میکنم بررسی آن هم ارزش دارد.
میدانیم این مدلها با حجم عظیمی از دادههای موجود در اینترنت آموزش میبینند.
با این حال، شرکتهایی مثل OpenAI و دیگران که این مدلها را تولید میکنند، خودشان آنها را آموزش میدهند و درباره دادههای آموزشی تصمیم میگیرند.
بنابراین احتمالاً نمیخواهند بعضی از این سایتهای حاشیهای خشونتآمیز را وارد کنند. فکر میکنم حتماً آنها را کنار میگذارند. البته مطمئن نیستم.
این سؤال خوبی است که باید از خودشان پرسید.
باز هم، آنها علاقهای نشان ندادهاند که بهشکل جدی یا مشخص درباره سیستمهای ایمنی خود و این مسئلهای که همچنان در حال ظهور است گفتگو کنند.
و فکر میکنم بد نیست اشاره کنم، گدی، که همین حالا در سطح ملی بحث بزرگی درباره هوش مصنوعی و آینده آن جریان دارد و این بحث معمولاً حول نگرانیهای بسیار بزرگتر شکل میگیرد؛ مثل احتمال ساخت سلاحهای کشتار جمعی، حملات سایبری فلجکننده، یا این تصور که هوش مصنوعی یا رباتها بهنوعی کنترل جهان را به دست میگیرند و بشریت را نابود میکنند.
اما این ماجرا و گزارش من درباره تامبلر ریج، به نظرم نشان میدهد آسیبی از فناوری هوش مصنوعی وجود دارد که خود این فناوری آن را تشدید میکند و همین حالا هم وجود دارد، و همین حالا به زندگیها آسیب زده و باعث مرگ شده یا باید بگویم در آن نقش داشته است؛ یکی از چند عامل در چنین پروندهای.
و این چیزی است که فکر میکنم باید همین حالا با آن روبهرو شویم.
بله، و بخش زیادی از این موضوع در دادگاهها روشن خواهد شد و امیدواریم نه در دنیای واقعی. اما متأسفانه این روزها همه ما باید برای هر چیزی آماده باشیم.
مارک فولمن از «مادر جونز»، گزارش واقعاً فوقالعادهای بود. خیلی ممنون.