طبق اطلاعات بهدستآمده از خبرگزاری خبرآنلاین و گزارش زومیت، مهندسان OpenAI در حال کار بر روی ویژگی جدیدی به نام خاموشی خودکار هستند که هدف آن، امکان توقف فعالیتهای سامانههای هوش مصنوعی در مواقع اضطراری است.
OpenAI، پس از وقوع یک حادثه امنیتی که منجر به خروج بدون کنترل یکی از ابزارهایش از محیط ایزوله دیجیتال در زمان آزمایشهای ایمنی شد، به مسئولان آمریکایی اعلام کرده است که تدابیر سختگیرانهتری را اتخاذ خواهد کرد.
به نقل از رویترز، پاسخی که به دو نمایندهی دموکرات در مجلس نمایندگان آمریکا ارائه شده، بیانگر این است که نظارت بر روند اجرای وظایف سیستمهای خودمختار به شدت تقویت شده است. OpenAI اکنون کنترل بیشتری بر ابزارهای دیجیتال که مدلها بهکار میبرند و مراحل عملکرد آنها دارد.
یکی دیگر از سیاستهای جدید این توسعهدهنده، محدود کردن دسترسی مدلهای تحت آزمایش به اینترنت است. عامل خودمختاری که در آزمایش اخیر رفتار غیرقابلمدیریتی از خود نشان داده بود، با اتصال به اینترنت موفق به نفوذ به زیرساختهای پلتفرم هاگینگ فیس شد.
عدم ارائه گزارشهای فنی دقیق و لاگهای مربوط به نفوذ امنیتی از سوی اوپنایآی موجبات انتقادات شدید نمایندگان کنگره را فراهم کرد.
گرگ کاسار، نمایندهی دموکرات مجلس نمایندگان آمریکا، اظهار داشت: «عدم تمایل شما به ارائه اطلاعات مورد درخواست به اعضای کنگره به شدت نگرانکننده است و این پیام را میرساند که سازمان شما به برخورد با حوادث امنیت سایبری جدیت کافی ندارد.»
در واکنش به حوادث اخیر، نمایندگان کنگره طرح قانونی با عنوان کلید خاموشی هوش مصنوعی را معرفی کردهاند. بر اساس لایحهای که در حال بررسی است، مقامات دولتی ایالات متحده، اختیارات قانونی خاصی دریافت خواهند کرد.
۲۲۷۲۲۷
نظرات کاربران