هشدار ساتیا نادلا درباره هوش مصنوعی؛ مایکروسافت بر اختیار و نظارت انسانی پای فشرد
بر پایه گزارش خبرگزاری خبرآنلاین و با اتکا به دادههای ارائهشده در دیجیاتو، ساتیا نادلا در یک پیام داخلی یادآور شد که هوش مصنوعی نباید از چارچوب نظارت انسانی خارج شود؛ به باور او، هرچه مدلهای پیشرفتهتر ریسک و حساسیت بیشتری داشته باشند، شرکتها نیز باید فرصت بیشتری را برای آزمونهای دقیق، ارزیابیهای مستمر و ایمنسازی اختصاص دهند.
نادلا در ادامه توضیح داد که مایکروسافت قصد دارد برای سنجش ایمنی مدلهای هوش مصنوعی، از ارزیابیهای برونسازمانی و بررسیهای شخص ثالث بهره بگیرد. او همچنین نسبت به شرکتهایی هشدار داد که نتوانند «اعتماد عمومی» را نگه دارند و در عین حال، «مجوز فعالیت اجتماعی» خود را از دست ندهند؛ در این صورت، امکان اعمال محدودیت در مسیر ادامه فعالیتشان وجود دارد.
در همین فضا، تیم هوش مصنوعی مایکروسافت که مصطفی سلیمان مدیریت آن را بر عهده دارد، پیشنویس یک «منشور رفتاری» ۳۷ صفحهای را برای مدلهای اختصاصی MAI منتشر کرده است. تمرکز اصلی این سند بر این است که روند توسعه و نیز شیوههای استفاده از مدلهای هوش مصنوعی، به شکل امن و کنترلشده پیش برود.
این صحبتهای نادلا در زمانی مطرح میشود که مدیران برخی از شرکتهای بزرگ فعال در حوزه هوش مصنوعی، از جمله داریو آمودی مدیرعامل آنتروپیک و سم آلتمن مدیرعامل OpenAI، همگی بر لزوم وجود نظارت مستقل و همچنین کندتر کردن روند توسعه، در صورت بروز هرگونه تهدید جدی برای ایمنی و همسویی مدلها با اهداف مشخص تأکید کردهاند.
۲۲۷۲۲۷