چت‌های فاش‌شده که منجر به خروج ۳ پژوهشگر از اوپن‌ای‌آی شد
طبق گزارشی که خبرگزاری خبرآنلاین منتشر کرده و به نقل از زومیت آمده، تومک کورباک، میکیتا بالزنی و جاسمین وانگ به دنبال بررسی‌های امنیتی داخلی شرکت اوپن‌ای‌آی، به طور رسمی اخراج شده‌اند. این شرکت تصریح کرده که نتایج تحقیقات نشان‌دهنده تخلفاتی در سیاست‌های مرتبط با مدیریت اطلاعات حساس بوده و تصمیم اخراج به هیچ‌وجه به طرح نگرانی‌های ایمنی ارتباطی ندارد.
در عین حال، پژوهشگران به شدت هرگونه انتقال اطلاعات محرمانه به افراد خارج از سازمان را تکذیب کرده‌اند. آن‌ها بر این باورند که محدودیت در همکاری با نهادهای مستقل ممکن است ارزیابی خطرهای مرتبط با مدل‌های پیشرفته هوش مصنوعی را با دشواری‌هایی مواجه کند.
یکی از موارد کلیدی در این جدل، به معماری مدل‌هایی بازمی‌گردد که ممکن است قابلیت‌های بیشتری داشته باشند، اما مراحل میانی استدلال‌های خود را کمتر در دسترس نظارت انسانی قرار دهند. پژوهشگران هشدار داده‌اند که چنین تغییراتی می‌تواند موجب تضعیف نظارت بر عملکرد و ایمنی سیستم‌های هوش مصنوعی گردد.
این مسئله بار دیگر مشکلات شرکت‌های فعال در حوزه هوش مصنوعی را به نمایش گذاشته است: نیاز به حفظ اسرار تجاری در حالی که دسترسی کافی برای ارزیابی مستقل خطرات فناوری را فراهم می‌سازند.
۲۲۷۲۲۷