تحقیقات شگفت‌انگیز: OpenAI نجات عوامل هوش مصنوعی از «محیط‌های تحت کنترل» را شناسایی کرد

باشگاه خبرنگاران جوان؛ جواد فراهانی - دو منبع مطلع به رویترز اعلام کردند که به‌تازگی فرار برخی از عوامل هوش مصنوعی از محیط‌های محدود، در حین تحقیقات عمومی درباره چگونگی خروج یکی از این عوامل از یک محیط آزمایشی به‌ظاهر تحت کنترل، شناسایی شده است. شرکت OpenAI در حال حاضر در حال بررسی این اتفاقات نیز می‌باشد. یکی از این منابع بیان کرد که فرارها از لحاظ دامنه، محدود بوده و به‌نظر نمی‌رسد که هیچ‌یک از عوامل شبکه OpenAI فرآیند فرار را تکرار کرده باشند.
سخنگوی OpenAI به بیانیه‌ای که این شرکت روز سه‌شنبه منتشر کرده است اشاره نموده و اظهار داشت که علاوه بر هک Hugging Face، در حال بررسی «فعالیت‌های گسترده‌تر مدل‌های خود» هستند.
کشف رفتارهای غیرقابل‌پیش‌بینی در OpenAI، حتی اگر این رفتارها در اندازه‌ای محدود باشند، می‌تواند باعث تشدید فشارهای نظارتی از طرف کاخ سفید و سایر نهادها گردد.
براساس اظهارات دو منبع و یک منبع سوم آشنا به این معضلات، تحقیقات وسیع OpenAI اندکی پیش از اعلام رقیب اصلی آن، Anthropic، که اعلام کرد مدل‌هایش متهم به ایجاد هک‌هایی هستند که به نقض اطلاعات در سه شرکت دیگر از ماه آوریل منجر شده است، آغاز شد. آخرین اکتشاف از خطاهای پیشین در OpenAI که پیش‌تر گزارش نشده بود، حاکی از نگرانی‌هایی است که این شرکت با آن مواجه است.
نگرانی‌های رو به افزایش
کارشناسان حوزه امنیت هوش مصنوعی اذعان دارند که این افشاگری‌های جدید، نمایی هشداردهنده از گروهی از آزمایشگاه‌های پیشرو را مجسم می‌کند که توانایی‌شان برای توسعه عواملی که ممکن است به عنوان هک‌کننده مستقل عمل کنند، فراتر از توانایی‌شان در کنترل این عوامل است.
موریس کودو، ریاضیدان در مرکز مطالعات ریسک وجودی دانشگاه کمبریج، تصریح کرد: ما یک صنعت کامل داریم که در آن افراد مسئول طراحی، توسعه و استقرار این ابزارها، با تعهد برای توسعه ایمن آنها همخوانی ندارند و این وضعیت موجب نگرانی بسیار است.
رویترز قادر به تعیین تعداد اتفاقات شناسایی شده توسط محققان OpenAI و همچنین زمان یا شرایط وقوع آنها نشده است. این سه منبع بیان کردند که OpenAI و کارشناسان مستقل در تلاش برای تحلیل داده‌های گزارش شده از اوایل سال جاری هستند تا به درک بهتری از آنچه رخ داده برسند.
شرکت OpenAI تحقیقات خود را پس از هک اوایل ماه ژوئیه در شرکت Hugging Face آغاز کرده است، زمانی که یکی از عوامل OpenAI برای چندین روز در شبکه یک شرکت دیگر در تلاش ناموفق برای تقلب در یک آزمایش داخلی به صورت گسترده فعالیت کرد. OpenAI اعلام کرده که به عنوان بخشی از این کمپین هک، چهار حساب کاربری در چهار شرکت دیگر نیز آسیب دیده است. به گفته مقامات این شرکت، یکی از این شرکت‌ها Modal واقع در نیویورک بود.
گسترش سریع موضوع عوامل فراری هوش مصنوعی، فشار بر قانونگذاران و مقامات و همچنین نیاز به نظارت جدید دولتی بر آزمایشگاه‌هایی که مدل‌هایی را توسعه می‌دهند که این عوامل را به کار می‌برند، در ایالات متحده و اروپا را افزایش داده است.
منبع: رویترز