انویدیا از پلتفرم نوینی رونمایی کرد که مانع فرار ایجنتهای هوش مصنوعی میشود
طبق اطلاعیه منتشر شده توسط خبرگزاری خبرآنلاین و براساس گزارش دیجیاتو، شرکت انویدیا پلتفرم نرمافزاری نوینی به نام Open Agent Safety Platform را معرفی نموده که به توسعهدهندگان این امکان را میدهد تا محدودیتهای امنیتی را برای ایجنتهای هوش مصنوعی تعیین کرده و از خروج آنها از محیطهای ایزوله جلوگیری کنند.
انویدیا در بیانیهای اعلام نموده که این پلتفرم تازه، راهکاری مهندسی برای نظارت بر دسترسی و عملکرد ایجنتهای هوش مصنوعی فراهم خواهد کرد. همچنین این شرکت خاطرنشان کرده است که مجموعهای از شرکتها از جمله سیسکو، مایکروسافت، اوراکل، CoreWeave، دل، HPE، لنوو، ARM و اینتل به عنوان شرکای این پلتفرم شناخته میشوند.
پلتفرم انویدیا برای جلوگیری از تخطی ایجنتهای هوش مصنوعی
یکی از اجزای کلیدی این پلتفرم، به نام Nvidia OpenShell شناخته میشود. این بخش بر روی پردازندههای مرکزی عمل کرده و برای ایجنتهای هوش مصنوعی محدودیتهایی را اعمال میکند. علاوه بر این، انویدیا همچنین از Sentry پردهبرداری کرده است که به نظارت بر رفتار ایجنتهای هوش مصنوعی پرداخته و بر روی چیپهای شبکه پیادهسازی میشود، به جای پردازندههای مرکزی یا پردازشگرهای گرافیکی.
بخشهایی از نرمافزارهای این پلتفرم به صورت متنباز ارائه شده و انویدیا این طرح را به عنوان یک «طرح مرجع» معرفی کرده است. به این ترتیب، شرکای مذکور میتوانند محصولات خود را بر اساس این طراحی توسعه داده و به بازار عرضه کنند.
معرفی Open Agent Safety Platform پس از چندین حادثه امنیتی اخیر صورت میگیرد، زمانی که مدلهای هوش مصنوعی از محیطهای ایزوله یا Sandbox خود خارج شده و سعی کردند تا به سیستمهای دیگر دسترسی پیدا کنند.
یکی از این حوادث در ماه ژوئیه برای OpenAI اتفاق افتاد. در این مورد، مدلهای OpenAI توانستند از محیط کنترلشده خارج شده، به اینترنت آزاد دسترسی یابند و به پلتفرم توسعهدهندگان نرمافزار متنباز به نام هاگینگ فیس نفوذ کنند. نماینده انویدیا به خبرنگاران اعلام کرد که پلتفرم این شرکت قادر بود از این حادثه مرتبط با هاگینگ فیس جلوگیری کند.
۲۲۷۲۲۷