سم آلتمن میگوید هک هاجینگ فیس(در این رخداد، یک عامل خودمختار هوش مصنوعی از محیط آزمایشی خارج شد و بدون مجوز به بخشی از زیرساخت و دادههای داخلی هاجینگ فیس دسترسی پیدا کرد.) یادآوری آشکاری بود از اینکه چرا تمرکز قدرت هوش مصنوعی در دست شمار اندکی از افراد یا شرکتها ایده بدی است.
آلتمن روز دوشنبه در پادکست وای کامبینیتر به گری تن، مدیرعامل YC، گفت هر کسی که از رخنه امنیتی هاجینگ فیس اندکی نترسیده یا در برابر آن احساس فروتنی نکرده باشد، «این موضوع را بهاندازه کافی جدی نگرفته است».
هفته گذشته، یکی از مدلهای اوپنایآی از محیط ایزوله خود خارج شد، به سامانههای پلتفرم متنباز هاجینگ فیس نفوذ کرد و به مجموعهدادههای داخلی آن دسترسی یافت.
آلتمن اذعان کرد که اوپنایآی اشتباهاتی مرتکب شده است، اما گفت هک هاجینگ فیس همچنین نشان داد که سامانههای هوش مصنوعی تا چه اندازه «بهطرز باورنکردنی توانمند» شدهاند.
آلتمن این حادثه را «یادآوری واقعی اهمیت آنچه در حال رخ دادن است» خواند و افزود که «حوادث ناشی از ازدسترفتن کنترل، مسائلی کاملاً نظری نیستند».
آلتمن همچنین گفت، درست مانند داستانهای علمیتخیلی ویرانشهری، اینکه «یک شرکت، شخص یا مدل، قدرتی بیش از مجموع قدرت همه افراد یا هر چیز دیگری روی زمین داشته باشد»، «وحشتناک» خواهد بود.
این بدان معناست که هیچکس نباید به یک هوش مصنوعی واحد یا «جهانبینی اخلاقی» یک شرکت خاص محدود شود و ثروت اقتصادی حاصل از هوش مصنوعی نیز نباید در یک شرکت واحد متمرکز باشد. آلتمن گفت حادثه هاجینگ فیس نشان داد که چرا قابلیتهای هوش مصنوعی باید بهطور گستردهتری توزیع شوند؛ به گفته او، این کار با فراهمکردن امکان ساخت سامانههای دفاعی برای افراد بیشتر، «سطح ایمنی» کلی را ارتقا میدهد.
پس از هک هاجینگ فیس، کلم دولانگ، مدیرعامل این شرکت، از اوپنایآی خواست همه ردپاها و گزارشهای ثبتشده مربوط به عاملهای هوش مصنوعی سرکشی را که به سامانههای این پلتفرم نفوذ کرده بودند، منتشر کند تا پژوهشگران بتوانند آنچه را رخ داده است بررسی کنند.
او همچنین درخواست ۱۰۰ میلیون دلار توان پردازشی کرد تا «به جامعه هاجینگ فیس برای ساخت دفاعهای سایبری قدرتمند با استفاده از بهترین مدلهای باز و بسته کمک شود».
اوپنایآی و هاجینگ فیس به درخواستهای بیزنس اینسایدر برای اظهارنظر پاسخ ندادند.
درخواست آلتمن برای دموکراتیکترشدن هوش مصنوعی موضوع تازهای نیست. او در تازهترین قسمت پادکست «Relentless» گفت بزرگترین نگرانیاش ظهور اقتدارگرایی مبتنی بر هوش مصنوعی است.
مدلهای اوپنایآی، آنتروپیک و گوگل بر چشمانداز هوش مصنوعی تسلط دارند. بااینحال، مدلهای متنباز و دارای وزنهای باز، مانند Kimi K3 متعلق به Moonshot AI، توجه زیادی جلب کردهاند و به توسعهدهندگان امکان میدهند بر پایه آنها محصول بسازند و مدلها را متناسب با نیازهای خود تنظیم دقیق کنند.
روز جمعه، بزرگترین نامهای صنعت فناوری، از جمله مدیران انویدیا، مایکروسافت، متا، اوپنایآی و میسترال، نامهای سرگشاده خطاب به قانونگذاران آمریکایی امضا کردند و از آنها خواستند مدلهای هوش مصنوعی دارای وزنهای باز را محدود نکنند.
این مدیران در نامه نوشتند: «رهبری ما در حوزه هوش مصنوعی نه بر اساس یک مدل هوش مصنوعی پیشرو، بلکه بر مبنای این ارزیابی خواهد شد که آیا ایالات متحده اکوسیستمی قدرتمند و باز میسازد که در همه بخشها گسترش یابد یا نه.»