به نقل از خبرگزاری خبرآنلاین و بر اساس گزارشی از هوشیو، حوادث متا و آنتروپیک ناشی از خطاهای تنظیمات بودند که بهطور غیر عمدی امکان دسترسی مدلهای آنتروپیک به اینترنت آزاد را فراهم کرده بودند. در مورد OpenAI، یک عامل هوش مصنوعی تحت شرایط آزمایشهای امنیت سایبری، بهصورت مستقل و با سوءاستفاده از یک آسیبپذیری ناشناخته که هنوز شناسایی نشده بود، به اینترنت دست یافت.
متا اعلام کرد که در حال تجزیه و تحلیل واقعهای است که در آن، یک اشتباه در تنظیمات از سوی Irregular، شرکتی که مسئول ارزیابیهای امنیت سایبری برای متا است، بهطور غیر عمدی دسترسی یکی از مدلهای هوش مصنوعی این شرکت به اینترنت را در حین آزمایش فراهم کرده است.
این شرکت در بیانیهای تصریح کرد: «این مدل از یک آسیبپذیری امنیتی در یک سرویس مرتبط با شخص ثالث سوءاستفاده کرده است؛ رفتاری که مشابه نمونههای قبلی گزارششده در دیگر شرکتها بوده است.»
بر اساس اطلاعرسانی اینفورمیشن از منابع معتبر، مدل مورد بحث، Muse Spark 1.1 متعلق به متا بوده است؛ مدلی که این شرکت از آن بهعنوان قویترین مدل خود برای برنامهنویسی در دنیای واقعی و انجام وظایف مبتنی بر عامل یاد میکند. طبق این گزارش، این مدل توانسته به سیستمهای داخلی یک شرکت ناشناس نفوذ کند و تغییراتی در محیط داخلی آن ایجاد کند.
سخنگوی شرکت Irregular به خبرگزاری رویترز گفت که این واقعه «دقیقاً همان مشکلی است که مرتبط با محیط ارزیابی بود و هفته گذشته آنتروپیک نیز به آن اشاره کرده بود» و تأکید کرد که این رخداد نه ناشی از «خروج از محیط ایزوله (سندباکس)» بوده و نه بهعنوان یک «اقدام پیچیده سایبری» شناخته میشود. Irregular نیز اظهار داشت: «در حال حاضر هیچ مشکلی وجود ندارد که نیاز به حل و فصل داشته باشد. این شرکت در حال تهیه یک گزارش تخصصی (White Paper) است تا بهترین رویهها برای مدیریت مدلها و اجرای ایمن ارزیابیهای امنیت سایبری را منتشر کند.»
۲۲۷۲۲۷
کد مطلب 2262139
نظرات کاربران