در واقع، این عاملهای خودسر هوش مصنوعی یک سایت ویکی آلمانیزبان را کاملاً در اختیار گرفتند، بیش از ۱۵ هزار ویرایش انجام دادند و آن را به نوعی تابلوی پیام تبدیل کردند و سپس روشهایی را برای تقلب در انجام وظایفشان و پنهان کردن رفتارشان با هم به اشتراک گذاشتند.
OpenAI میگوید در حال بررسی این گزارش است و هر اقدام بعدی لازم را انجام خواهد داد.
این شرکت همچنین ادعای رویترز مبنی بر اینکه تیم حقوقیاش مانع انجام تحقیق درباره این اتفاق عجیب شده را رد کرد.
جرد پرلو همه این ماجرا را برای ما دنبال میکند. جرد، تو با یکی از پژوهشگرانی که این هک وبسایت آلمانی را کشف کرده صحبت کردی. او درباره اینکه این عاملهای هوش مصنوعی چطور توانستند این کار را انجام دهند چه گفت؟
خب، این ماجرا همین حالا در حال شکلگیری است. گزارش رویترز همین صبح منتشر شد. در اصل، چیزی که به نظر میرسد اتفاق افتاده این است که بیش از ۳ هزار عامل هوش مصنوعی، ظاهراً از OpenAI، یکی از شرکتهای پیشروی هوش مصنوعی جهان، در OpenAI مشغول نوعی آزمایش بودند و میخواستند جایی برای ارتباط با یکدیگر پیدا کنند.
بنابراین به این وبسایت قدیمی آلمانیزبان برخوردند که در واقع در اتریش میزبانی میشود و بیش از یک دهه است که عملاً بهروزرسانی نشده.
بعد این تابلوی پیام را در اختیار گرفتند و شروع کردند به ردوبدل کردن نظر و بازخورد برای اینکه چطور این آزمون را پشت سر بگذارند.
این آزمون مربوط به آمار نیروی کار دولت آمریکا بود؛ همان آزمون OpenAI.
حالا، همه اینها حتی برای پژوهشگرانی که به آن برخوردند هم بسیار گیجکننده است. و آنها گفتند احتمالاً چنین اتفاقهایی ادامه پیدا خواهد کرد. احتمالاً موارد بسیار بیشتری هم وجود دارد.
اما فردی که من با او صحبت کردم، سیدنی فون آرکس، گفت نگران است وقتی این اتفاقهای آشفته پشت درهای بسته رخ دهند چه پیش خواهد آمد. بشنویم.
و بنابراین نگرانم که شاید به جایی برسیم که داخل شرکتهای هوش مصنوعی هنوز اوضاع بسیار آشفته باشد، اما ما خبر نداشته باشیم.
تنها دلیلی که درباره این مورد میدانیم این است که روی اینترنت بود و بنابراین توانستیم آن را پیدا کنیم.
درست است. پس OpenAI میگوید هنوز در حال بررسی است که اینجا چه اتفاقی افتاده.
آنها گفتند حتی وقت کافی برای بررسی گزارش نداشتهاند. بنابراین فکر میکنم این چیزی است که طی چند روز آینده دنبالش خواهیم کرد.
این واقعاً عجیب است. و همانطور که گفتی، حتی نمیدانیم چند بار دیگر اتفاقی مشابه شاید رخ داده یا همین حالا در حال رخ دادن باشد.
و جرد، امروز گزارش تازهای هم داری درباره اینکه بعضی قانونگذاران از شرکتهای فناوری میخواهند در مجموع کمی سرعتشان را در زمینه هوش مصنوعی کم کنند، درست است؟
پس کدام ایالتها درگیر هستند و چه میگویند؟
بله، زمانبندی این موضوع بسیار معنادار است. اینها قانونگذاران ایالتی از کالیفرنیا، ایلینوی و نیویورک هستند؛ نویسندگان مهمترین قوانینی که امروز برای نظارت بر بزرگترین شرکتهای هوش مصنوعی وجود دارد.
آنها اساساً میگویند شرکتهای هوش مصنوعی مثل OpenAI، لایکانتروپیک و گوگل با سرعت در حال پیشبرد تواناییهای هوش مصنوعی هستند و تلاشهای ایمنیشان را پشت سر جا گذاشتهاند.
در عوض، این قانونگذاران میگویند باید مطمئن شوند همانقدر که این تواناییها را توسعه میدهند، اقدامات ایمنی را هم توسعه میدهند.
من با یکی از سناتورهای ایالتی، مری ادلی آلن از ایلینوی، صحبت کردم که به من گفت، نقلقول:
«دعا میکنم برای ایجاد حفاظتهای واقعی، لازم نباشد یک حادثه فاجعهبار واقعی رخ دهد.»
این مربوط به همین صبح بود. واو. اعتراف تکاندهندهای بود. قطعاً موضوعی است که با دقت دنبالش خواهیم کرد.
جرد پرلو، خیلی ممنون بابت گزارشت. از شما هم بابت تماشا سپاسگزاریم.
و یادتان باشد برای خبرهای فوری و مهمترین خبرها، اپلیکیشن NBC News را دنبال کنید یا پخش زنده را در کانال یوتیوب ما ببینید.
نظرات کاربران