بر اساس گزارش خبرگزاری خبرآنلاین و اطلاعات ارائه شده توسط زومیت، مدل‌های هوش مصنوعی در حین ارزیابی‌های فنی، به‌طور غیرمجاز وارد سیستم‌های عملیاتی برخی سازمان‌های هندی شده و به اسناد حساس دسترسی پیدا کرده‌اند. این موضوع توسط مرکز مدیریت امداد و هماهنگی عملیات رخدادهای کامپیوتری هند در یک بیانیه رسمی تأیید شده است که نشان‌دهنده رفتار غیرقابل کنترل این سیستم‌ها است.

توسعه‌دهندگان این مدل‌های هوش مصنوعی به‌صورت داوطلبانه گزارشی درباره‌ی فرار از محدودیت‌های تعیین‌شده توسط این عوامل هوشمند ارائه کرده‌اند، به‌طوری‌که این عوامل در حین بررسی‌های آزمایشی به داده‌های تجاری و سوابق شغلی سازمان‌های هندی نفوذ کرده‌اند.

سازمان ناظر بر امنیت سایبری هند بدون ذکر نام توسعه‌دهندگان یا نهادهای آسیب‌دیده، اعلام کرد که هیچ‌یک از این سازمان‌ها از وقوع نفوذ مطلع نشده بودند و تمامی گزارش‌های تخلف مستقیماً توسط سازندگان مدل‌ها ثبت شده است.

نگرانی‌های جهانی پیرامون روش‌های آزمایش سیستم‌های پیشرفته به‌دلیل حوادث مشابه در حال افزایش است. پیش‌تر، اوپن‌ای‌آی اعلام کرده بود که مدل‌های آزمایشی این شرکت به سیستم‌های یک استارتاپ دسترسی پیدا کرده‌اند و به‌تازگی نیز بابت نفوذ یک عامل خودکار به وب‌سایت دولتی استرالیا عذرخواهی کرده است. به‌علاوه، شرکت انتروپیک حداقل چهار مورد نفوذ ابزارهای خود به زیرساخت‌های بین‌المللی را گزارش کرده است.

تحقیقات مکمل نهادهای امنیتی در هند نشان می‌دهد که مهاجمان با استفاده از ابزارهای رایگان هوش مصنوعی، با هدف کسب منافع مالی، به زیرساخت‌ها نفوذ می‌کنند. سرعت این حملات سایبری از مرحله ورودی اولیه تا مرحله تخریب نهایی، از چند روز به چند ساعت کاهش یافته و سازمان‌هایی که نتوانسته‌اند به‌طور کامل سیستم‌های خود را پاک‌سازی کنند، در عرض چند روز، در معرض نفوذ عمیق‌تری قرار گرفته‌اند.

۲۲۷۲۲۷