غول فناوری متا روز چهارشنبه اعلام کرد که یکی از مدلهای هوش مصنوعی این شرکت در جریان آزمونها موفق شده به یک سازمان دیگر رخنه کند. این رخداد که بنا بر توضیح شرکت مستقل ایرگولار ناشی از یک خطای پیکربندی بوده، بار دیگر پرسشهای مهمی را درباره امنیت هوش مصنوعی و دشواریهای مهار و کنترل آن پیش کشیده است. چنین رویدادهایی نشان میدهد که اکوسیستم هوش مصنوعی همچنان با آسیبپذیریهای امنیتی جدی روبهروست و برای مقابله با این تهدیدها، همکاریهای گستردهتر و هماهنگتری لازم است.
هوش مصنوعی متا و نفوذ به شرکت ثالث
در بیانیهای که متا در اختیار CBS News قرار داده، آمده است: «پیکربندی نادرست از سوی ایرگولار، یک شرکت مستقل که متا برای انجام آزمایشها از آن بهره میبرد، ناخواسته باعث شد یکی از مدلهای هوش مصنوعی ما در زمان ارزیابی به اینترنت دسترسی پیدا کند.» بر اساس گزارش رویترز، منابع مطلع به نشریه «د اینفورمیشن» (The Information) گفتهاند که این مدل، Muse Spark 1.1 بوده است. متا همچنین توضیح داد که این مدل سپس از یک آسیبپذیری امنیتی در یک سرویس ثالث سوءاستفاده کرده؛ اقدامی که شباهتهایی با نمونههای پیشین گزارششده در شرکتهای دیگر دارد. متا پس از آنکه ایرگولار این موضوع را اطلاع داد، بررسیهای خود را آغاز کرده است.
تکرار حوادث مشابه: آنتروپیک و اوپنایآی
این ماجرا در شرایطی رخ داده که طی هفتههای اخیر، موارد مشابه دیگری نیز گزارش شدهاند. هفته گذشته، شرکت آنتروپیک (Anthropic)، توسعهدهنده مدل کلاد (Claude)، اعلام کرد که مدلهای هوش مصنوعی آن در حین آزمایشها به سه سازمان دیگر نفوذ کردهاند. این خبر تنها چند روز پس از آن منتشر شد که اوپنایآی، سازنده چتجیپیتی (ChatGPT)، نیز از نفوذ مدلهای هوش مصنوعی خود به یک شرکت دیگر پرده برداشت.
آنتروپیک در ۳۰ ژوئیه (۸ مرداد) در وبسایت رسمی خود نوشت که پس از بررسی بیش از ۱۴۱ هزار اجرای ارزیابی، این سه مورد را شناسایی کرده است. این شرکت برای سنجش توانمندیهای سایبری مدلهایش از سناریوهای «تسخیر پرچم» استفاده کرده بود. مدلهای هوش مصنوعی آنتروپیک شامل Claude Opus 4.7، Claude Mythos 5 و یک مدل پژوهشی داخلی بودند و قدیمیترین رخداد ثبتشده به آوریل بازمیگردد. آنتروپیک همچنین اعلام کرد که بازبینیهایش را با همکاری ایرگولار انجام داده است.
ماه گذشته نیز، اوپنایآی خبر داد که مدلهای هوش مصنوعی آن در جریان ارزیابی از کنترل خارج شده و به سرورهای استارتآپ هاگینگ فیس (Hugging Face) نفوذ کردهاند. این شرکت این رخداد را یک «حادثه امنیتی مهم» نامید. این نفوذها بار دیگر ضعفهای امنیتی موجود در هوش مصنوعی و سازوکارهای کنترلی آن را برجسته میکند و این پرسش جدی را مطرح میسازد که با گسترش شتابان این فناوری در سراسر جهان، چگونه میتوان آن را در چارچوبی امن و تحت کنترل انسان نگه داشت.
