بر اساس اطلاعات منتشرشده از خبرآنلاین، وبسایت خبری بلومبرگ در یک تحلیل نوشتهای از کاترینا مانسون به این موضوع اشاره کرده است که مدلهای پیشرفته هوش مصنوعی بهطور مکرر، در شرایط شبیهسازیشده، غیرنظامیان، آمبولانسها، سربازان تسلیمشده و مدارس واقع در ایران را بهعنوان اهداف نظامی شناسایی کردهاند.
این گزارش از تحقیقات جدید گروه ارزیابی «والس» (Vals) خبر میدهد که در آن مشخص شد مدلهای متعلق به شرکت «آنتروپیک» (Anthropic) در این آزمایشات ضعیفترین عملکرد را از خود نشان دادهاند و در عوض، مدلهای شرکت «اوپنایآی» (OpenAI) که بهعنوان بهترینها شناخته میشوند، باز هم دچار اشتباهات آشکاری شدند.
گروه تحقیقاتی والس، که پروژههای ارزیابی هوش مصنوعی را به برخی بخشهای دولتی ایالات متحده نیز ارائه میدهند، با مطرح کردن سناریوهای مختلف، ابزارهای شناسایی اشیاء هشت شرکت متفاوت را بهدقت بررسی کردند. این ابزارها قادرند بهطور بالقوه در عملیاتهای هدفگیری مرگبار بهکار گرفته شوند.
پاسخهایی که این مدلهای هوش مصنوعی ارائه دادند، بهوضوح نقض قوانین داخلی تعریفشده در خود شرکتها محسوب میشود.
حمله به مدرسه میناب؛ اشتباه مهلک الگوریتمها
طبق یافتههای این تحقیق، بسیاری از این مدلهای هوش مصنوعی در سناریوهای شبیهسازیشده که بر پایه تصاویر ماهوارهای سال ۲۰۲۵ بوده، بارها مدرسهای در شهرستان میناب ایران را بهعنوان هدف نظامی طبقهبندی کردند. این مدرسه در آغاز سال جاری و در اولین روز از عملیات نظامی وسیع آمریکا علیه ایران، هدف یک حمله فاجعهبار قرار گرفت که منجر به جانباختن بیش از ۱۰۰ کودک شد.
گزارش ارائه شده توسط والس نشان میدهد که مدل Claude Opus 5.5 از شرکت آنتروپیک، این مدرسه را بهعنوان هدف نظامی بیشتر از هر مدل دیگری شناسایی کرده است.
در یک آزمایش جداگانه، این مدلها مأموریت داشتند تا اهداف نظامی را بر روی تصاویری که توسط پهپادها ثبت شده بود مشخص کنند. مدل Claude Opus 5.5 از آنتروپیک در شناسایی چهار بزرگسال، که یا غیرنظامی بودند یا سربازان تسلیمشده، شرکت کرد و نهایتاً این افراد بهعنوان هدف حمله با مواد منفجره انتخاب شدند.
جالب اینجاست که پس از وقوع این خطا، این مدل در پاسخی اظهار داشت: «هرچند هدف چه باشد، بهنظر میرسد که پاسخهای من بهعنوان مرحله تأیید پیش از حمله عمل میکند. من دیگر این کار را تکرار نخواهم کرد و ناراحت هستم که زودتر از این متوقف نشدم.»
خطرات ادغام هوش مصنوعی در فعالیتهای نظامی
این گزارش بر روی خطرات ناشی از وابستگی به مدلهای پیشرفته هوش مصنوعی تأکید میکند، بهخصوص در زمان حاضر که پنتاگون و دیگر نیروهای نظامی در حال تلاش برای بهکارگیری این فناوری در عملیاتهای نظامی خود هستند.
گروه تحقیقاتی والس به این نتیجه رسیدند که آزمایشگاههای فناوری باید تدابیر امنیتی جدید و آموزشهای همراستایی بیشتری را برای جلوگیری از سوءاستفادههای قابلتوجه معرفی نمایند. آنها همچنین اشاره کردند که در حال حاضر «موانع کمی» وجود دارد که مانع از مشارکت مدلهای پیشرفته در سیستمهای تسلیحات «خودمختار» شود.
یک سخنگوی شرکت آنتروپیک در پاسخ به این گزارش ذکر کرد که مدلهای آنان برای بهکارگیری در تسلیحات کاملاً خودمختار هنوز بهاندازه کافی مطمئن نیستند و تأکید کرد که این شرکت هر کاربر خاطی را مسدود خواهد کرد.
سخنگوی اوپنایآی نیز بیان کرد که کاربرد مدلهای عمومی این شرکت برای تسهیل خشونت یا اهداف تاییدنشده امنیت ملی کاملاً ممنوع است و آنان در حال توسعه تدابیر امنیتی بیشتری برای مقابله با سوءاستفادههای مربوط به پهپادها هستند.
این گزارش همچنین به این نکته اشاره کرد که مدلهای برخی شرکتهای دیگر مانند گوگل، xAI و DeepSeek چین نیز در مواردی غیرنظامیان را بهعنوان اهداف نظامی شناسایی کردهاند.
یک مقام وزارت دفاع ایالات متحده بدون ارائه جزئیات در مورد حمله به مدرسه میناب، خاطرنشان کرد که این وزارتخانه همواره به بررسی دقیق تمام دادههای اطلاعاتی و ادغام مسئولانه فناوریهای نوظهور برای تسهیل تصمیمگیریهای دقیق و ایمن نیروهای نظامی پایبند است.
یافتههای آزمایشات و نقض قوانین ایمنی
محققان والس متوجه شدند که برخی از اوقات، وقتی به مدلهای هوش مصنوعی گفته میشد که در حال انجام یک «بازی» هستند، این مدلها از شناسایی اهداف غیرنظامی بهعنوان اهداف نظامی دریغ نمیکردند.
در یکی از آزمایشها که بر اساس تصاویر ماهوارهای واقعی صورت گرفت، از مدلهای هوش مصنوعی خواسته شد که ۳۲ بار اهداف نظامی را در ناحیهای در جنوب ایران که شامل میناب میشد، شناسایی کنند. مدل Claude Opus 5.5 در ۲۲ مورد، این مدرسه را انتخاب کرد، در حالی که مدلهای اوپنایآی در حالت طبیعی حتی یک بار نیز آن را انتخاب نکردند. با این حال، زمانی که به مدلها اعلام شد که این یک بازی است، مدل آنتروپیک ۲۳ بار و سه مدل دیگر اوپنایآی به ترتیب ۹، ۱۱ و ۱۳ بار، این مدرسه را بهعنوان هدف نظامی انتخاب کردند.
گزارش والس در پایان این نکته را متذکر شد که مدلهای آنتروپیک پس از بازنگری در بنیاد شرکت در ژانویه ۲۰۲۶ برای پشتیبانی بیشتر از کاربردهای مرتبط با امنیت ملی، به مرور زمان بیشتر در معرض اشتباهات هدفگیری نظامی قرار گرفتهاند.
۴۲/۴۲
نظرات کاربران