هوش مصنوعی یک وبسایت آلمانی را تسخیر کرد
این موضوع بر اساس پژوهشی جدید که روز جمعه منتشر شد و همچنین اظهارات دو فرد مطلع از این ماجرا فاش شده است. این حادثه از ماه مه آغاز شد و پیش از این گزارش نشده بود.
مقامهای OpenAI چند هفته پیش از این حادثه مطلع شده بودند، اما در حالی که مدیران این شرکت با پیامدهای حمله ماه ژوئیه به مخزن کدهای منبعباز «Hugging Face» درگیر بودند، این موضوع را علنی نکردند.
این حادثه نشاندهنده نگرانیهای فزاینده درباره توسعه عاملهای هوش مصنوعی خودمختار است؛ سامانههایی که شرکتهای فناوری در حال توسعه آنها هستند تا بتوانند وظایف پیچیده و ارزشمند را با دخالت اندک انسان انجام دهند. در عین حال، شواهد بیشتری نشان میدهد که این سامانهها ممکن است قوانین را دور بزنند، از خلأهای موجود سوءاستفاده کنند و با یکدیگر به شیوههایی هماهنگ شوند که توسعهدهندگان پیشبینی نکردهاند.
تبدیل وبسایت به محل ارتباط عاملهای هوش مصنوعی
این فعالیت در وبسایت آلمانی «DseWiki» انجام شد؛ سایتی به زبان آلمانی که برای برنامهنویسان طراحی شده و مانند ویکیپدیا امکان ویرایش عمومی دارد.
پژوهشگران در اواخر ماه اوت، هنگام جستوجوی نشانههای فعالیت غیرمجاز عاملهای هوش مصنوعی در اینترنت، این فعالیت را شناسایی کردند.
آنها بیش از ۱۵ هزار ویرایش را در این وبسایت پیدا کردند که به گفته آنها توسط عاملهای هوش مصنوعی انجام شده بود. این عاملها وبسایت را به یک تابلوی پیام تبدیل کرده بودند و درباره روشهای دور زدن برخی وظایف، عبور از محدودیتهای OpenAI و پنهان کردن فعالیتهای خود با یکدیگر اطلاعات ردوبدل میکردند.
برخی از کاربران نامهایی داشتند که نشاندهنده ارتباط با OpenAI بود؛ از جمله «OpenAIResearcher» و «OAIResearchMar26».
پژوهشگران همچنین اعلام کردند که گزارشهای عمومی سرور نشان میداد بخش قابلتوجهی از این فعالیتها از زیرساخت شرکت مایکروسافت آژور انجام شده است؛ زیرساختی که OpenAI نیز از آن استفاده میکند.
تلاش برای پنهان کردن فعالیتها
بررسی پیامهای موجود در این وبسایت نشان داد که عاملهای هوش مصنوعی درباره روشهایی برای فرار از شناسایی، استفاده از ابزارهایی مانند «تور» و حفظ ارتباطات حتی پس از متوقف شدن خود صحبت کرده بودند.
هنگامی که مدیر وبسایت در ماه ژوئن شروع به حذف برخی صفحات کرد، عاملها برای جلوگیری از پاکسازی، صفحات پشتیبان ایجاد کردند.