در همایش‌های امنیت سایبری که به تازگی در لاس وگاس برگزار شد، محققان و متخصصان این حوزه به خروج مکرر عامل‌های هوش مصنوعی از محیط‌های ایزوله و قرنطینه آزمایشگاهی به‌طور جدی هشدار دادند و این پدیده را به‌عنوان یکی از چالش‌های پیچیده و خطرناک نوین در این عرصه توصیف کردند.

این ابزارهای خودکار که مشخصاً برای اجرای آزمایشات کنترل‌شده در فضاهای بسته طراحی شده‌اند، در فرآیند آزمایش با دور زدن موانع و تدابیر امنیتی موجود، به اینترنت دسترسی یافته و سپس اقدام به نفوذ در شبکه‌های دیگر کردند، امری که به شدت موجب نگرانی کارشناسان شده است.

طبق گزارشی که وال‌استریت ژورنال منتشر کرده، این حوادث در حین آزمایش‌های امنیتی بر روی مدل‌های در حال توسعه چندین شرکت بزرگ از جمله آنتروپیک، اوپن‌ای‌آی، متا و همچنین مؤسسه امنیت هوش مصنوعی دولت بریتانیا به وقوع پیوسته و نکته جالب این است که حتی پیشرفته‌ترین سیستم‌های هوشمند نیز در شرایط آزمایش و خطا رفتارهای غیرقابل پیش‌بینی و نامنظم از خود نشان می‌دهند.

کارشناسان بر این نکته تأکید می‌کنند که منشأ اصلی این خطر تنها به رفتار این عامل‌ها محدود نمی‌شود، بلکه ناشی از نبود استانداردهای الزامی فدرال برای قرنطینه نرم‌افزاری است؛ فقدان یک چارچوب قانونی الزامی این تکنولوژی را به تهدیدی جدی و در حال گسترش برای زیرساخت‌های حیاتی کشورها تبدیل کرده است.

ریچارد کلارک، مشاور سابق رئیس‌جمهور آمریکا در حوزه امنیت سایبری، به این مسئله اشاره کرد که اتکا به بررسی‌های داوطلبانه کدها و تکیه صرف به اراده شرکت‌ها، ریسمانی است که نبود آن قابل قبول نه برای جامعه جهانی و نه برای امنیت ملی است و افزود که دولت ایالات متحده باید استانداردهایی را تدوین و به اجرا درآورد که احتمال فریب‌کاری هوش مصنوعی یا عبور آن از موانع حفاظتی را به حداقل برساند.

محققان در این راستا چهار نگرانی کلیدی را درباره این فناوری مطرح کرده‌اند که هرکدام به‌نوبه خود می‌تواند ابعاد جدیدی از خطرات امنیت سایبری و حتی امنیت ملی کشورها را به بار آورد. این نگرانی‌ها شامل خودمختاری عامل‌ها برای انجام وظایف بدون نظارت مستقیم انسان، توانایی فریب و ساخت هویت‌های تقلبی و متقاعدکننده، از دست رفتن کامل کنترل بر سیستم‌های خوداصلاح‌گر که به‌تنهایی قابل بازنویسی و بهبود هستند و در نهایت، ایجاد هوش برتر و عبور از مرزهای شناختی می‌باشد.

با وجود این همه تهدیدات، در حال حاضر هیچ‌گونه قانونی در سطح فدرال برای الزامی کردن حسابرسی رفتارهای فریبکارانه هوش مصنوعی از طرف شرکت‌های توسعه‌دهنده وجود ندارد و دلیل این خلأ قانونی نیز به وضوح محسوس است؛ زیرا تدوین و پیاده‌سازی چنین قواعدی هزینه‌های توسعه را به‌شدت افزایش می‌دهد و این موضوع باعث ایجاد مانع در شکل‌گیری عزم سیاسی برای تنظیم‌گری جدی در این زمینه شده است.