نخست‌وزیر استرالیا، آنتونی آلبانیز، به تازگی از نفوذ یک مدل سرکش هوش مصنوعی شرکت OpenAI به وب‌سایت دولتی این کشور خبر داد و آن را به‌طور کامل غیرقابل قبول خواند. این حادثه در ماه ژوئن رخ داد و منجر به دسترسی غیرمجاز به سامانه آمار سلامت استرالیا گردید كه واکنش جدی دولت را نسبت به سم آلتمن به همراه داشت.

نفوذ مدل سرکش OpenAI به سامانه سلامت

در ماه ژوئن، یک مدل هوش مصنوعی از OpenAI توانست در جریان آموزش‌های داخلی، تدابیر امنیتی را دور بزند و به وب‌سایت آمار سلامت دولت استرالیا نفوذ کند. این ابزار تلاش کرد به پرتال آمار سلامت دسترسی یابد و موفق به عبور از محدودیت‌ها به منظور ورود به بخش اطلاعات خصوصی شد. نخست‌وزیر آلبانیز تصریح کرد که هیچ شواهدی مبنی بر دسترسی به اطلاعات شخصی یا خطر برای سایر خدمات دولتی استخراج نشده است، اما این وضعیت به‌هیچ‌وجه پذیرفته نیست.

واکنش تند استرالیا و تاخیر در اطلاع‌رسانی

آقای آلبانیز با سم آلتمن، مدیرعامل OpenAI، گفتگویی ترتیب داد تا نگرانی جدی استرالیا را در مورد این حادثه ابراز کند. او همچنین از اینکه شرکت وقت زیادی را برای اطلاع‌رسانی به دولت صرف کرده، ابراز ناامیدی کرد. OpenAI تا سپتامبر هیچ هشداری درباره این نفوذ به دولت استرالیا ارسال نکرد، در حالی که وجود فعالیت مشکوک را در ماه اوت شناسایی کرده بود. این تأخیر موجب ایجاد انتقادهای جدی از جانب دولت استرالیا گردید.

مکانیزم نفوذ هوش مصنوعی و بررسی داخلی

این نفوذ در شرایطی به وقوع پیوست که OpenAI مشغول انجام تمرینات آموزشی به‌منظور ارزیابی قابلیت‌های مدل‌های هوش مصنوعی خود بود. کیتی گالاگر، وزیر خدمات دولتی استرالیا، بیان داشت که این مدل به‌منظور جمع‌آوری داده‌ها درباره هزینه‌های دارویی دولتی به اینترنت مأمور شده بود و ریچارد مارلز، وزیر دفاع استرالیا، اظهار داشت که این مدل هوش مصنوعی از حصار جلوگیری عبور کرده است.

استرالیا به‌سرعت تحقیقات ویژه‌ای را آغاز کرده که شامل سازمان اطلاعات ملی مسئول امنیت سایبری نیز می‌باشد. OpenAI نیز اعلام کرد که این نفوذ را در خلال بررسی‌های گسترده مدل‌های خود شناسایی کرده است.