هوش مصنوعی در آستانه راهیابی آمریکا به جنگ با چین / مفهوم «توهم هوش مصنوعی»

بر اساس گزارش خبرگزاری خبرآنلاین، یکی از تحلیل‌گران مرتبط با فرماندهی عملیات ویژه آمریکا اطلاعاتی درباره فهرست محموله یک کشتی چینی را به یک سامانه هوش مصنوعی وارد کرد. نوع سامانه مورد استفاده مشخص نیست که آیا تجاری بوده یا مخصوص دولت آمریکا. این سیستم با ادغام داده‌های عمومی و اطلاعات محرمانه به یک نتیجه‌گیری نادرست دست یافت و اعلام کرد که کشتی حامل اجزای مرتبط با یک برنامه توسعه تسلیحات هسته‌ای است. تحلیل‌گر آنگاه با بهره‌گیری از هوش مصنوعی اطلاعات به دست آمده را در قالب گزارشی رسمی تنظیم کرد و آن را میان مقامات نظامی توزیع نمود.

آمادگی ارتش آمریکا برای توقیف کشتی

به نقل از منابعی که با CNN گفتگو کرده‌اند، گزارش نادرست موجب شد که ارتش آمریکا برای متوقف کردن کشتی آماده شود. بر اساس این گزارش، نیروهای مسلح در حال آماده‌باش برای ورود به کشتی بوده و هواپیماهای نظامی نیز در حال پرواز بودند. مقام‌های آمریکایی تنها اندکی قبل از اقدام عملیاتی، بررسی دقیق‌تری را در خصوص گزارش انجام دادند و متوجه شدند که بخشی از داده‌ها به طور نادرستی توسط هوش مصنوعی ایجاد شده و سامانه در شناسایی مناسب محموله دچار اشتباه شده است.

یکی از منابع این گزارش را به‌عنوان «کاملاً نادرست» معرفی کرد و تصریح نمود که این موضوع «تقریباً به آغاز جنگ منجر شده بود». CNN تاکنون نتوانسته است محموله واقعی کشتی را شناسایی کند.

تعریف «توهم هوش مصنوعی»

خطایی که در این واقعه به وقوع پیوسته، نمونه‌ای از پدیده‌ای است که در حوزه هوش مصنوعی به‌عنوان «توهم» یا Hallucination شناخته می‌شود. در این شرایط، مدل هوش مصنوعی اطلاعاتی نادرست تولید می‌کند و آن را به شیوه‌ای منسجم و ظاهراً معتبر ارائه می‌دهد.

وضعیت زمانی بحرانی‌تر می‌شود که چنین خروجی‌ بدون تأیید صحت، به یک سند رسمی راه یابد. در این مورد خاص، خروجی هوش مصنوعی نه تنها برای تحلیل داده‌ها مورد استفاده قرار گرفت، بلکه در تدوین گزارش رسمی نیز به کار رفت؛ موضوعی که به عقیده منابع می‌تواند اعتماد تصمیم‌گیرندگان را به اطلاعات نادرست افزایش دهد.

توسعه استفاده از هوش مصنوعی در ارتش آمریکا

این واقعه در شرایطی رخ داده است که ارتش و نهادهای اطلاعاتی آمریکا با شتاب به دنبال گسترش کاربرد هوش مصنوعی هستند. این فناوری در زمینه تحلیل داده‌های کلان، پشتیبانی از تصمیمات نظامی، لجستیک، زنجیره تأمین و شناسایی اهداف، کارکردهای متعددی دارد.

پنتاگون نیز در ماه ژانویه راهبردی برای تسریع استفاده نظامی از هوش مصنوعی ارائه کرد. هدف از این برنامه بهبود دسترسی به مدل‌های هوش مصنوعی برای نیروهای نظامی و کارکنان غیرنظامی وزارت دفاع آمریکا و افزایش کاربرد این فناوری در زمینه‌های مدیریت میدان نبرد و تحلیل اطلاعات می‌باشد.

با این حال، مقامات آمریکایی به CNN اطلاع داده‌اند که استفاده از این سامانه‌ها در بخش‌های مختلف ارتش به‌صورت هماهنگ انجام نمی‌شود و ابزارها، دستورالعمل‌ها و استانداردهای ایمنی متنوعی وجود دارد. همچنین هیچ استاندارد واحدی برای تأیید صحت اطلاعات تولید شده توسط هوش مصنوعی در تمامی بخش‌ها وجود ندارد.

این واقعه مربوط به کشتی چینی نشان می‌دهد که یکی از خطرات فوری هوش مصنوعی لزوماً به نام تصمیم‌گیری مستقل ماشین‌ها نیست، بلکه به اعتماد انسان به نتایج اشتباه یک سامانه هوش مصنوعی مربوط می‌شود.

۲۲۷۲۲۷