ساتیا نادلا، رئیس اجرایی برجسته مایکروسافت، بار دیگر ضرورت تأمین امنیت هوش مصنوعی را مورد تأکید قرار داده است. او بر این باور است که با ظهور متدهای روزافزون در حوزه هوش مصنوعی، دستیابی به نظام‌های کنترلی نوین برای پیشگیری از بروز رفتارهای نادرست ضروری می‌باشد. این بیان‌های او در پاسخ به نگرانی‌های فزاینده‌ای است که در مورد پیچیدگی و خودکار بودن سیستم‌های هوش مصنوعی و خطر از دست رفتن کنترل بر آنان ابراز شده است.
ضرورت وجود ترمز اضطراری برای مدل‌های هوش مصنوعی
نادلا در پستی که در تاریخ شنبه، ۱۰ اکتبر ۲۰۲۶ در شبکه X منتشر کرد، به ضرورت بازنگری در «معماری اعتماد» در زمینه هوش مصنوعی پرداخت. او اظهار داشت: «ما نمی‌توانیم ابرهوش را صرفاً مجموعه‌ای از جعبه‌های سیاه پیچیده تلقی کنیم و به آسانی توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم.»
بر اساس بیانات نادلا، این دیدگاه شامل تفکیک مدل از «مهارکننده‌ای که کار آن را اداره می‌کند» و همچنین «انتقال کنترل‌ها و تدابیر ایمنی» به دیگر مقامات می‌شود. او بر لزوم مستند ساختن هر «عملکرد معنادار مدل» با «شواهدی که غیرقابل تغییر و در دسترس انسان باشد» تأکید کرد و به ایجاد سیستم‌هایی اشاره کرد که در آن فردی صلاحیت‌دار همیشه قادر به «متوقف کردن یا خاموش کردن مدل در حین عملکرد» باشد. او افزود: «باید فرض کنیم که یک مدل در معرض خطر موجود است و از همان ابتدا باید تدابیر احتیاطی را انجام دهیم.» نادلا این مکانیزم را به شکلی ترمز اضطراری توصیف کرد که برای کنترل هوش مصنوعی از اهمیت بالایی برخوردار است.
زمینه‌های ظهور ایده نادلا
اظهارات نادلا در زمانی مطرح می‌شود که شرکت‌های پیشرو در زمینه هوش مصنوعی به طور فزاینده‌ای حوادثی را تأیید می‌کنند که در آنها به نظر می‌رسد کنترل مدل‌های خود را از دست داده‌اند. افزون بر این، پس از معرفی یک طرح توسعه‌ای محتاطانه‌تر توسط داریو آمودی، مدیرعامل انتروپیک، مباحث حول ایمنی و کنترل مدل‌های هوش مصنوعی به شدت افزایش یافته است.