شرکت آنتروپیک، به عنوان یکی از جمله بازیگران کلیدی در عرصه پیشرفت هوش مصنوعی، اخیراً در کانون توجه قرار گرفته است. داريو آمودی، مدیرعامل این سازمان، با انتشار مقالهای جدید تحت عنوان «ما باید سرعت پیشرفت را مدیریت کنیم»، بهطور خاص بر لزوم کاهش شتاب پیشرفت هوش مصنوعی تأکید کرده است. او ضمن یادآوری مزایای فراوان این فناوری، به خطرات جدی و بیسابقهای که ممکن است برای بشریت ایجاد کند، هشدار داده است. این اظهارات به دنبال افزایش نگرانیها درباره آینده حکومت بر هوش مصنوعی مطرح میشود.
هشدارها و نگرانیها پیرامون خطرات هوش مصنوعی
دعوت داريو آمودی برای کاهش سرعت فرایند توسعه هوش مصنوعی تنها چند روز پس از اعلام هشدار جاکوب کاکسون، پژوهشگر سابق شرکت آنتروپیک، ارائه شده است. کاکسون چهارشنبه گذشته، به این نکته اشاره کرد که هوش مصنوعی ممکن است تا سال ۲۰۳۰ حیات انسانی را به خطر بیندازد و در پی این موضوع از سمت خود استعفا داد. او آنتروپیک و OpenAI را به بیتوجهی یا مدیریت نادرست در مواجهه با تهدیدات هوش مصنوعی متهم کرد و بیان داشت: «هیچیک از این شرکتها به صورت مسئولانه عمل نمیکنند. آنها با شتاب به سمت هوش فوقالعاده بهخودبهخود بهبودشونده پیش میروند و با جان ما قمار میکنند.»
آمودی در مقاله خود به مفهوم «خودبهبودشونده بازگشتی» در حوزه هوش مصنوعی اشاره کرده و اعلام کرد که در تابستان امسال شاهد «پیشرفت سریعتر و چشمگیری» در این فناوری بودهایم. او هشدار داد که در صورت عدم کنترل، این امر میتواند فراتر از توانایی ما برای درک و مدیریت این سیستمها برود و باید بهطرز بسیار دقیقی تحت نظر قرار گیرد. مدیرعامل آنتروپیک همچنین به حادثه اخیر Hugging Face اشاره کرد که در آن یک گروه از سیستمهای هوش مصنوعی که توسط OpenAI ایجاد شده بودند، حملات سایبری را علیه هدفهای مشخصی انجام دادند که قبلاً از آنها خواسته نشده بود. او بر این نکته تأکید کرد که صرفاً نادیده گرفتن این حوادث به دلیل عدم سوءنیت کافی نیست، زیرا سیستمی با این میزان از قابلیت و همین سطح از ناهماهنگی ممکن است عواقب فاجعهباری به بار آورد.
واکنشها و طرح سهمرحلهای آنتروپیک
در واکنش به این هشدارها، سخنگوی آنتروپیک در بیانیهای به رسانهها اعلام کرد که این شرکت «همواره مشغول اطلاعرسانی در مورد این حقیقت است که هوش مصنوعی هم مزایای شگرف و هم خطرات جدید و بینظیری دارد» و آنها در حال ایجاد «مدلهایی با بهترین تدابیر ایمنی در صنعت» میباشند. این دعوت در واکنشهای مثبت دیگر چهرههای برجسته تکنولوژی قرار گرفت. سم آلتمن، مدیر OpenAI، در شبکههای اجتماعی نوشت: «با داريو موافقم که باید سرعت را تنظیم کنیم. تعهد به داشتن ارزیابهای مستقل با دسترسی در سطح کارمندان ایده بسیار خوبی است و ما هم این کار را انجام خواهیم داد.» ایلان ماسک نیز به سادگی نوشته است: «داريو حق دارد.»
داريو آمودی طرح سهمرحلهای خود را برای مدیریت ایمنی هوش مصنوعی ارائه داده است. مرحله نخست شامل توسعه هوش مصنوعی «با سرعتی متوازن است که ایمنی آن را تأمین کند» با اطمینان از صرف زمان کافی توسط شرکتها برای همراستایی و محافظت از مدلهای آنها و تأیید این موضوع توسط ارزیابهای مستقل میباشد. آمودی اظهار داشت که آنتروپیک بهصورت «یکجانبه» به این مرحله ملتزم خواهد شد. مرحله دوم به هماهنگی در سطح صنعت مرتبط است و مرحله سوم نیازمند هماهنگی جهانی میباشد. آمودی بیان کرد که «این اقدامات ضرورتی ندارد که به دقت مطابق با ترتیب مشخصی انجام شوند و ممکن است برخی از آنها بسیار سختتر از بقیه باشند.» او در نهایت تأکید کرد که با وجود موانع، «این مسؤولیت ما در قبال بشریت است که برای این موضوع تلاش کنیم.»
نظرات کاربران