طبق گزارش خبرگزاری خبرآنلاین و بر اساس اطلاعات دیجیاتو، آلتمن در این نشست اظهار داشت: «به نظر من وقوع برخی از حوادث در پی ظهور فناوری‌های نوین غیرقابل‌اجتناب خواهد بود. آنچه که برایم واقعاً اهمیت دارد، ایجاد یک فرهنگ قوی برای مستندسازی حوادث و یادگیری از آن‌هاست.»
او به سازمان هوانوردی فدرال و هیئت ایمنی حمل‌ونقل ملی آمریکا به‌عنوان یک نمونه موفق اشاره کرد. این نهادها هر رویداد را به‌طور کاملا دقیق بررسی می‌کنند و فرهنگ یادگیری از حوادث یکی از دلایل کلیدی برای ایمن بودن سفرهای هوایی در حال حاضر است.
نگرانی‌ها درباره حوادث هوش مصنوعی
آلتمن این نظرات خود را در زمانی عنوان کرد که حساسیت‌ها و نگرانی‌ها درباره توسعه‌دهندگان هوش مصنوعی به اوج خود رسیده است. یکی از دلایل اصلی این نگرانی‌ها، افزایش خودمختاری این سیستم‌هاست.
«جیکوب کاکسون» (Jacob Coxon)، که به‌تازگی از شرکت آنتروپیک استعفا داده، با اظهاراتش به این نگرانی‌ها دامن زد. او هشدار می‌دهد که شرکت‌ها در تلاش برای دستیابی به یک ابرهوش خودبهبوددهنده در حال رقابت هستند.
آلتمن به این نگرانی‌ها پاسخ روشنی داد و گفت که ترس مردم از کنترل‌ناپذیری هوش مصنوعی یا تمرکز بیش از حد آن در دست تعداد محدودی از توسعه‌دهندگان منطقی است. او اضافه کرد: «جهان حق دارد از این موضوع نگران باشد.»
با این حال، او استدلال کرد که به‌جای کند کردن یا متوقف کردن فعالیت‌ها، شرکت‌ها باید بر روی همسویی (alignment)، ایمنی و نظارت‌های بیشتر پیش از بهبود توانایی‌های مدل‌ها تمرکز کنند. اگر آن‌ها نتوانند تعادل را حفظ کنند، باید آمادگی لازم برای کاهش یا حتی توقف پژوهش‌ها را داشته باشند.
او بیان کرد که مسئله این نیست که بی‌توجه به حوادث باشیم و آن‌ها را بپذیریم. بلکه باید زمانی که اوضاع به درستی پیش نمی‌رود، صادقانه آن‌ها را بررسی کرده و به بهبود ادامه دهیم تا از گسترش ریسک‌ها جلوگیری شود.
این نظرات جزئی از یک گفت‌وگوی وسیع‌تر درباره سرعت پیشرفت هوش مصنوعی است. برخی از شخصیت‌های فعال در این صنعت خواستار احتیاط بیشتری هستند، در حالی که سیاست کنونی آمریکا بر این مبنا است که در این حوزه از رقبای بین‌المللی خود پیشی بگیرد.
۲۲۷۲۲۷
نظرات کاربران