خبرآنلاین - ترجمه از گاردین - محمد عارف معزی: کمیته بینالمللی صلیب سرخ و گروههای حقوق بشری هشدار دادهاند که با شتاب گرفتن توسعه تسلیحات خودمختار و پیشی گرفتن آن از تلاشها برای قانونگذاری و تنظیم مقررات، بهزودی فرصت مهار این فناوریها از دست خواهد رفت و بازگرداندن «غول به چراغ جادو» دشوار خواهد شد.
این هشدار صریح در شرایطی مطرح شد که کنفرانس یکهفتهای بیش از ۱۲۰ کشور عضو کنوانسیون سازمان ملل درباره برخی سلاحهای متعارف در ژنو به پایان رسید.
با وجود افزایش فشارها، کشورها نتوانستند درباره تدوین سازوکاری برای بررسی و تنظیم مقررات تسلیحات خودمختار در دو سال آینده به توافق برسند؛ اقدامی که گروههای حقوق بشری آن را برای مقابله با تهدید فزاینده این تسلیحات ضروری میدانستند.
دکتر کوردولا دروگه، مدیر بخش حقوق بینالملل، جنبش و مشارکتهای کمیته بینالمللی صلیب سرخ، گفت: «شاهد آن هستیم که هوش مصنوعی در میدان نبرد به کار گرفته میشود و شاید حتی از هماکنون در سامانههای تسلیحاتی نیز مورد استفاده قرار گرفته باشد. اگر این حوزه را بدون مقررات رها کنیم، بازگرداندن غول به چراغ جادو بسیار دشوارتر خواهد شد.»
تسلیحات خودمختار به سامانههای نظامی گفته میشود که بدون نظارت انسانی عمل میکنند و اغلب از هوش مصنوعی یا دیگر فناوریهای رباتیک برای انجام مأموریتهای خود بهره میبرند.
با رشد فزاینده هوش مصنوعی در سالهای اخیر، ارتشها و شرکتهای تولیدکننده تسلیحات، سامانههای پیشرفتهتری را برای اهداف تهاجمی و دفاعی توسعه دادهاند.
از جمله کاربردهای این فناوری میتوان به استفاده از هوش مصنوعی برای ایجاد فهرست اهداف اشاره کرد؛ روشی که ارتش اسرائیل در غزه به کار گرفته است. همچنین پهپادهای نیمهخودمختار در جنگ روسیه و اوکراین از دیگر نمونهها هستند. این پهپادها از قابلیتی موسوم به «توانمندی مرحله نهایی» برخوردارند؛ به این معنا که هوش مصنوعی در آخرین مرحله نزدیک شدن پهپاد به هدف، کنترل آن را بر عهده میگیرد.
میرجانا اسپولیاریک اگر، رئیس کمیته بینالمللی صلیب سرخ، و آنتونیو گوترش، دبیرکل سازمان ملل، خواستار تدوین یک سند الزامآور حقوقی با ممنوعیتها و محدودیتهای روشن درباره استفاده از این تسلیحات شدهاند.
کمیته بینالمللی صلیب سرخ بهطور مشخص خواستار ممنوعیت استفاده از تسلیحات خودمختار علیه نیروهای انسانی شده و همچنین بر ضرورت اطمینان از رفتار قابل پیشبینی سامانههای تسلیحاتی و تعیین محدودیتهایی برای استفاده از آنها تأکید کرده است؛ از جمله اینکه کاربرد این تسلیحات به اهداف نظامی محدود شود.
کارشناسان هشدار دادهاند که با توجه به سرعت توسعه تسلیحات خودمختار و هوش مصنوعی، ناکامی در تدوین مقررات کافی میتواند پیامدهای خطرناکی به دنبال داشته باشد.
دروگه گفت: «هدف، ممنوعیت همه سامانههای تسلیحاتی خودمختار نیست، بلکه تعیین خطوط قرمزی در قالب یک معاهده بینالمللی است که هرگز نباید از آنها عبور کرد. ما به عبور از این خطوط قرمز بسیار نزدیک شدهایم. بهویژه هدف قرار دادن انسانها بهوسیله ماشینها باید یک خط قرمز اخلاقی باشد.»
گروههای حقوق بشری دیگر نیز هشدار دادهاند که هرگونه تأخیر در تنظیم مقررات این تسلیحات، این خطر را به همراه دارد که شرکتهای خصوصی و ارتشها خودشان قواعد و هنجارهای استفاده از تسلیحات خودمختار را تعیین کنند.
تلفات غیرنظامیان در حملات تسلیحات خودمختار
تسلیحات خودمختار تاکنون نیز به کشته شدن غیرنظامیان منجر شدهاند. در ماه ژوئیه، سه غیرنظامی در منطقه زاپوریژیا در جنوب شرقی اوکراین، بر اثر حمله پهپادی روسیه که با یک سامانه هوش مصنوعی هدایت میشد، جان باختند.
این پهپاد قصد داشت یک پمپبنزین را هدف قرار دهد که احتمالاً هدف اصلی حمله بود، اما در عوض به دیواری برخورد کرد و در پی انفجار و پراکنده شدن ترکشها، سه نفر را در محل وقوع حادثه کشت.
در غزه نیز اسرائیل از روشهای هدفگیری مبتنی بر هوش مصنوعی استفاده کرده تا از ابتدای جنگ، بانک اهداف خود را با سرعتی بسیار بیشتر از توان نیروی انسانی تکمیل کند. در نتیجه، به گفته گروههای حقوق بشری، غیرنظامیان و افرادی که ارتباطشان با گروههای مسلح بسیار محدود بوده است، بهاشتباه در شمار اهداف قرار گرفته و کشته شدهاند.
در ایران نیز بنا بر گزارشها، حمله آمریکا به یک مدرسه ابتدایی که به کشته شدن ۱۵۶ غیرنظامی، از جمله ۱۲۰ دانشآموز، منجر شد، نتیجه اطلاعات نادرستی بوده که سامانههای هوش مصنوعی جمعآوری کرده بودند.
آنا ههیر، رئیس بخش حکمرانی هوش مصنوعی نظامی در مؤسسه «آینده زندگی»، گفت تأخیر بیشتر در دستیابی به یک معاهده قدرتمند میتواند به موارد بیشتری از تلفات گسترده غیرنظامیان، مشابه آنچه طی ۱۸ ماه تا دو سال گذشته رخ داده، منجر شود. او هشدار داد که برخی از این حوادث مرگبار ممکن است از فجایع پیشین نیز گستردهتر باشند.
به گفته او، شرکتهای تولیدکننده تسلیحات و ارتشها در تلاشاند قابلیتهایی موسوم به «عملیات ازدحامی» را توسعه دهند؛ قابلیتی که در آن صدها یا هزاران پهپاد خودمختار بهطور همزمان عمل میکنند.
ههیر گفت: «این فناوری بهدلیل حجم انبوه سامانههای خودمختار، ظرفیت تخریب گستردهای دارد. کافی است یکی از آنها با خطای الگوریتمی مواجه شود تا کل دسته پهپادها بر اساس همان خطا به مسیری هدایت شوند؛ بهویژه اگر برای هدف قرار دادن انسانها برنامهریزی شده باشند.»
خطر گسترش تسلیحات خودمختار به گروههای غیردولتی
خطر دیگری که مطرح شده، گسترش دسترسی به این فناوریها و استفاده گروههای غیردولتی از آنهاست. گروههای غیردولتی بهطور فزایندهای از هوش مصنوعی برای برنامهریزی و هدایت سامانههای تسلیحاتی خود استفاده میکنند. برای نمونه، جنبش حوثیها در یمن از ابزار هوش مصنوعی کلود برای برنامهنویسی موشکهای بالستیک خود به روشی موسوم به «کدنویسی شهودی» استفاده کرده است.
همچنین گزارشهایی منتشر شده که نشان میدهد گروههای اسلامگرای مسلح در منطقه ساحل آفریقا از ابزارهای هوش مصنوعی برای بهبود محاسبات بالستیکی پهپادها و برنامهریزی عملیاتی استفاده کردهاند.
یک دیپلمات ارشد آگاه از مذاکرات سازمان ملل نیز گفت: «این هفته تنها یک موضوع اهمیت دارد. مسئله اصلی، جزئیات قوانین نیست؛ آنچه پس از ۱۳ سال در دستور کار قرار گرفته، این است که آیا اراده سیاسی لازم سرانجام برای آغاز جدی روند تنظیم مقررات سامانههای تسلیحاتی خودمختار وجود دارد یا خیر.»
۲۱۹/۴۲/
نظرات کاربران