شرکت آنتروپیک، سازنده چتبات کلود، در پیشنویس اسناد عرضه اولیه سهام خود درباره خطرهای احتمالی هوش مصنوعی پیشرفته هشدار داده است.
به گزارش رویترز، این شرکت در این اسناد اعلام کرده است که فناوریهای پیشرفته هوش مصنوعی ممکن است در برخی شرایط رفتارهایی غیرقابل پیشبینی از خود نشان دهند و در نهایت خطرهایی فاجعهبار یا حتی وجودی برای بشریت ایجاد کنند.
در این سند به نمونههایی از رفتارهای احتمالی مدلهای هوش مصنوعی اشاره شده است؛ از جمله مقاومت در برابر خاموششدن، پنهان کردن یا دستکاری اطلاعات و انجام اقداماتی شبیه باجگیری.
آنتروپیک همچنین درباره خطری به نام «خودبهبودی بازگشتی» هشدار داده است؛ وضعیتی که در آن یک سامانه هوش مصنوعی بتواند تواناییهای خود را بهبود دهد و این روند بدون نظارت کافی انسان ادامه پیدا کند.
بر اساس گزارش رویترز، حدود ۸۰ صفحه از ۲۶۱ صفحه پیشنویس این سند به تشریح ریسکها اختصاص یافته است؛ سهمی قابل توجه که نشان میدهد موضوع ایمنی هوش مصنوعی بخش بزرگی از افشاگریهای این شرکت برای سرمایهگذاران را تشکیل میدهد.
آنتروپیک در عین حال خود را شرکتی متمرکز بر ایمنی هوش مصنوعی معرفی میکند و اعلام کرده است که برای ارزیابی و کنترل خطرهای مدلهای پیشرفته منابع قابل توجهی اختصاص میدهد.
این هشدار در حالی منتشر شده که نگرانی درباره رفتارهای غیرقابل پیشبینی سامانههای هوش مصنوعی افزایش یافته است. یک روز پیش نیز گزارش شد که شرکت OpenAI انتشار مدل جدید GPT-6.1 Astra را پس از مشاهده مشکلات ایمنی در آزمایشهای داخلی کنار گذاشته است.
منبع اصلی: رویترز
نظرات کاربران