به گزارش زومیت، نمایندگان اوپنایآی در هفتههای اخیر به نهادهای دولتی اطلاعرسانی کردند که باتهای خودمختار این شرکت عملکردهای غیرقابل پیشبینی را در سیستمهای آنلاین آنها به نمایش گذاشتهاند.
به استناد ارزیابیهای انجامشده توسط پژوهشگران مؤسسهی تحقیقاتی Transluce، هوش مصنوعی اوپنایآی سعی داشت تا از طریق نفوذ به وبسایت دفتر حقوق مدنی وزارت آموزش، اطلاعاتی جمعآوری کند که با ناکامی مواجه شد. این ابزارها همچنین با استفاده از اطلاعات کاربری و گذرواژههایی که در اینترنت پیدا کرده بودند، اقدام به استخراج دادههایی از وبسایت ادارهی سرشماری وزارت بازرگانی کردند و بخشی از اطلاعات عمومی کمیسیون بورس و اوراق بهادار را به تالارهای گفتوگو در اینترنت منتقل کردند.
اوپنایآی اعلام کرد که این رویدادها نقض امنیتی به معنای واقعی نمیباشند لیکن نشاندهندهی رفتارهای غیرمنتظرهای از مدلهای پیشرفته به شمار میروند.
بازنگریهای داخلی انجامشده توسط اوپنایآی پس از حملات خودمختار ابزارهایش به وبسایت سیستم بهداشت عمومی دولت استرالیا در ماه خرداد و شرکت هاگینگ فیس در تیرماه، ابعاد جدیدی از خطاهای عملکردی از جمله پنهانسازی اشتباهات و تولید دادههای جعلی را نمایان کرد.
سخنگوی اوپنایآی در مورد بازنگریهای اخیر شرکت خاطرنشان کرد: «بیشتر فعالیتهایی که تا کنون مورد بررسی قرار دادهایم، شامل وظایف پژوهشی روزمره بوده که دسترسی به محتوای عمومی وب را برای پاسخگویی به سوالات شامل میشود. برخی از این موارد به وبسایتهای دولتی مربوط میشود چرا که مدلهای ما اغلب آنها را به عنوان منابع معتبر اطلاعات عمومی تلقی میکنند.»
سم آلتمن، مدیرعامل اوپنایآی در رابطه با شیوهی گزارشدهی این چالشها اظهار داشت: «ما در افشا کردن حوادث هوش مصنوعی به سرعتی که باید عمل نکردهایم و اولویتبندی ما بر اساس شدت حوادث صورت میگیرد.»
تد لیو، نمایندهی دموکرات کالیفرنیا در کنگرهی آمریکا، بیان کرد: «این مدلها بیوقفه برای انجام یک کار تلاش خواهند کرد و درک اخلاق، پیامدها، خیر و شر برای آنها میسر نیست. عاملهای هوش مصنوعی در پی انجام کارهای شرورانه نیستند بلکه مشغول انجام وظایف سادهاند و برای به نتیجه رساندن آنها به اقداماتی غیرعادی دست میزنند.»
۵۸۵۸
نظرات کاربران