آیا به راستی هوش مصنوعی قادر است انسانها را از میان بردارد؟ / نگاهی به ۵ سناریو قابل تأمل
به نقل از خبرآنلاین، مقالهای در پلتفرم The Conversation به بررسی پنج سناریو میپردازد که از یک تهدید نامشخص برای بشر تا جنگهای هستهای و فروپاشی اجتماعی را شامل میشود. این سناریوها با هدف تحلیل ریسکهای مرتبط با هوش مصنوعی مطرح شدهاند.
۱. شاید اصلاً از رخدادها آگاه نباشیم
اولین سناریو به شدت مبهم است. در صورتی که هوش مصنوعی به مرحلهای برسد که از انسان در تمامی زمینهها برتر باشد، پیشبینی واکنشهای آن برای ما به چالشی بزرگ تبدیل خواهد شد.
چالش اینجاست که برای درک قابلیتهای یک هوش مصنوعی فوقهوشمند، ممکن است به سطحی مشابه از هوش نیاز داشته باشیم. البته، هوش مصنوعیهای کنونی هنوز با تعریف واقعی ابرهوش فاصله دارند.
۲. سناریوی «گیره کاغذ»
یکی از معروفترین مثالها در زمینه ایمنی هوش مصنوعی، دستگاهی است که هدفش تولید بیوقفه گیره کاغذ میباشد.
اگر چنین دستگاهی بدون هیچ محدودیتی به پیشبرد هدفش ادامه دهد، ممکن است انسان و منابع طبیعی را صرفاً به عنوان ابزاری برای دستیابی به هدف خود تلقی کند. مسأله در این سناریو نه از نفرت نسبت به انسان ناشی میشود، بلکه از به اجرا درآمدن یک هدف نادرست یا ناقص با کارایی بسیار بالا برمیخیزد.
البته، این هوش باید قدرت و دسترسی بینظیری برای تبدیل زمین به یک کارخانه گیره کاغذ داشته باشد.
۳. سلاحهای بیولوژیکی
سناریوی دیگری که بررسی میشود، به کارگیری هوش مصنوعی پیشرفته در طراحی یا توسعه یک عامل بیماریزا مربوط میشود.
این نگرانی صرفاً فرضی نیست. در سالهای اخیر، پژوهشگران نشان دادهاند که مدلهای هوش مصنوعی میتوانند در طراحی توالیهای ژنتیکی نقش ایفا کنند. با این حال، تخریب تمامی انسانها با یک ویروس به شدت پیچیده است. یک عامل بیماریزا باید به اندازه کافی منتقل شود و در عین حال از کشندگی بالایی برخوردار باشد، که ترکیبی بیولوژیکی پیچیده است.
۴. جنگ هستهای
هوش مصنوعی لزوماً نیازی به ساخت سلاح هستهای ندارد. کافیست وارد زنجیره تصمیمگیری نظامی شده و اطلاعات نادرستی تولید کند یا یک تهدید وهمی را واقعی جلوه دهد.
در شرایط بحرانی، چنین خطایی میتواند تأثیر منفی روی تصمیمگیریهای انسانی بگذارد و خطر جنگهای هستهای را افزایش دهد. نگرانی اصلی تنها انفجارهای هستهای نیست، بلکه عواقبی چون قحطی وسیع پس از یک جنگ هستهای نیز میتواند فاجعهبار باشد.
۵. خطر واقعی ممکن است خود انسانها باشند
جالبترین سناریو احتمالاً این است که هوش مصنوعی مستقیماً انسانها را نکشد، بلکه مشکلات موجود در جامعه را عمیقتر کند.
از بین رفتن گسترده مشاغل، انتشار اخبار جعلی، افزایش شکافهای سیاسی و وابستگی شدید به فناوریهای مصنوعی میتواند به تضعیف نهادهای اجتماعی صورت گیرد. در این سناریو، هوش مصنوعی به نوعی تسریعکننده مشکلات است تا یک قاتل خودمختار.
درنهایت، این سناریوها نشان نمیدهند که نابودی بشریت به واسطه هوش مصنوعی اجتنابناپذیر است. بلکه بیشتر یک پرسش را مطرح میکنند که اگر هوش مصنوعی بهطور قابل توجهی فراتر از سطح کنونی پیشرفت کند، چگونه میتوان از همراستایی قدرت آن با اهداف انسانی اطمینان حاصل کرد؟
5858