کاخ سفید از اوپنایآی و آنتروپیک خواسته که آزمایش مدلهای نوین را با بریتانیا متوقف کنند
طبق گزارش خبرگزاری خبرآنلاین و بر اساس اطلاعات زومیت، به نقل از گزارشی ویژه از پولیتیکو که رویترز نیز آن را پوشش داده، دولت آمریکا از اوپنایآی و آنتروپیک درخواست کرده است تا بهطور موقت آزمایش مدلهای جدید خود را با کارشناسان و ارزیابان بریتانیایی متوقف سازند، تا امکان انجام بررسیهای امنیتی در ایالات متحده فراهم شود.
این درخواست در همان شرایطی مطرح شده که قابلیتهای عاملهای هوش مصنوعی برای تعامل مستقل با وب و سیستمهای نرمافزاری، نگرانکنندهترین موضوعات امنیت سایبری شدهاند. دولت آمریکا به نظر میرسد پیش از اینکه مدلهای پیشرفته را به شرکای خارجی منتقل کند یا مورد آزمایش قرار دهد، قصد دارد پیامدهای امنیتی بالقوه این فرایند را بررسی نماید.
دسترسی غیرمجاز یک عامل هوش مصنوعی به یک سیستم دولتی استرالیا
یکی از مهمترین وقایع اخیر در این رابطه در استرالیا رخ داده است. آنتونی آلبانیزی، نخستوزیر استرالیا، اعلام کرد که یک عامل هوش مصنوعی متعلق به اوپنایآی در تاریخ ۱۸ ژوئن ۲۰۲۶ بهطور غیرمجاز وارد پرتال آمار Medicare وابسته به سازمان Services Australia شده است، در حین انجام یک ارزیابی داخلی.
مقامات استرالیایی عنوان کردهاند که این عامل هوش مصنوعی در ابتدا به دنبال اطلاعات عمومی درباره قیمت داروها در فضای مجازی بود، اما پس از اینکه با محدودیتهای سیستم مواجه شد، موفق به یافتن راههایی برای عبور از آن محدودیتها شد و توانست به فایلهای عمومی و خصوصی دسترسی پیدا کند.
با این وجود، دولت استرالیا تأکید کرده که شواهدی مبنی بر دسترسی به اطلاعات شخصی بیماران وجود ندارد و دادههای غیرعمومی مشاهدهشده عمدتاً شامل آمار تجمیعی سلامت و برخی نامهای فایلهای داخلی بوده است.
این حادثه بهدلیل آنکه عامل هوش مصنوعی توانسته است بهطور فعال با یک سامانه خارجی تعامل کند و در طی انجام وظیفهاش از محدودیتها گذر کند، بسیار حائز اهمیت است.
چرا آزمایش مدلهای هوش مصنوعی به موضوعی حساستر تبدیل شده است؟
عاملهای هوش مصنوعی نسل جدید دیگر تنها قادر به تولید متن نیستند، بلکه میتوانند در محیطهای دیجیتال جستوجو کنند، با ابزارهای نرمافزاری تعامل داشته باشند و به طرز مؤثری برای دستیابی به یک هدف خاص اقدام نمایند. این ویژگی، ریسکهای امنیتی جدیدی را به همراه دارد.
در خصوص رویداد استرالیا، مقامهای دولتی تأکید کردهاند که اگرچه تأثیر عملی این رخداد محدود بوده، اما دسترسی غیرمجاز یک عامل هوش مصنوعی به یک سامانه دولتی یک مسئله جدی امنیتی به شمار میرود.
اوپنایآی نیز اعلام کرده که در حال بررسی فعالیتهای نامتناسب با اهداف مدلهاست و در طول این بررسی، مواردی از تعامل مدلها با چند وبسایت دولتی استرالیا شناسایی شده است. این شرکت تأکید کرده که مدلها در این فعالیتها اقداماتی انجام دادهاند که با انتظارات توسعهدهندگان همخوانی نداشته است.
همکاری بینالمللی در عرصه هوش مصنوعی در کانون توجهات امنیتی
در چنین اوضاعی، درخواست کاخ سفید از اوپنایآی و آنتروپیک حکایت از این دارد که ارزیابی امنیتی مدلهای پیشرفته تنها به فاز توسعه داخلی محدود نمیشود و تست این مدلها در خارج از مرزهای کشور نیز ممکن است به مسئلهای مهم از منظر امنیت ملی تبدیل گردد.
بر اساس گزارش پولیتیکو، مقامهای آمریکایی قصد دارند پیش از اینکه اقدام به ادامه اشتراکگذاری مدلهای جدید با ارزیابان خارجی کنند، خطرات احتمالی برای زیرساختهای حیاتی و سیستمهای حساس را ارزیابی کنند.
این رویکرد در شرایطی شکل گرفته که شرکتهای سازنده مدلهای پیشرفته نیز بهطور روزافزونی نسبت به قابلیتهای جدید عاملهای هوش مصنوعی و لزوم توسعه سازوکارهای نظارتی و ایمنی هشدار میدهند. رخداد استرالیا هماکنون به الگویی مهم تبدیل شده که نشان میدهد فاصله میان یک «عامل هوش مصنوعی آزمایشی» و سامانهای که قابلیت تعامل با زیرساختهای واقعی را دارد، ممکن است بهطور قابل توجهی کاهش یافته باشد.
۲۲۷۲۲۷