شرکتهای پیشتاز در حوزه توسعه هوش مصنوعی همچون آنتروپیک و OpenAI به تازگی هشدارهایی را صادر کردهاند مبنی بر اینکه ابزارهای آنان توسط بازیگران مورد حمایت کرملین به منظور اجرای نقشههای مخرب نظامی و اطلاعاتی مورد بهرهبرداری قرار گرفتهاند. این اقدام نگرانیهایی جدی را در زمینه سوءاستفاده از فناوریهای پیشرفته غربی در جنگهای اطلاعاتی و نظامی آینده ایجاد کرده است. تلاشهایی چون طراحی پهپادهای خودکار و ساخت شبکههای وسیع برای انتشار اطلاعات نادرست در این زمینه صورت گرفته است.
سوءاستفاده روسیه از هوش مصنوعی در تولید تسلیحات و جنگهای اطلاعاتی
شرکت آنتروپیک در روز پنجشنبه، ۲۱ شهریور ۱۴۰۵ (۱۱ سپتامبر ۲۰۲۶) اعلام کرد که نیروی انسانی تحت حمایت کرملین از سیستم هوش مصنوعی Claude این شرکت به منظور طراحی پهپادهای خودکار کشنده، بهبود فعالیتهای هک و نفوذ، و نیز فرار از شناسایی استفاده کردهاند. گروه روسی GTG-27005 از هوش مصنوعی Claude برای تولید مدلی بهره گرفته که به اندازهای کوچک است که بر روی کامپیوترهای تکبرد قابل اجراست، اما به قدری قوی است که میتواند «اهداف (از جمله یک گروه هدف ‘شخص’) را شناسایی کرده و دستورات انفجار را به صورت خودکار و بدون نیاز به دخالت انسان صادر کند.» این گروه همچنین با استفاده از Claude، نرمافزاری توسعه داد که به پهپادهای خودکار امکان تبادل اطلاعات برای بهبود هدفگیری را میدهد. هرچند این گروه هنوز مدل خود را در میدان عمل مستقر نکرده بود، اما گزارشها نشان میدهد که آنها «آزمایشات واقعی سختافزاری در قالب حلقههای کنترل» را انجام میدادند. آنتروپیک فعالیتهای این گروه را متوقف کرده و نتایج کشفیات خود را با دستاندرکاران صنعتی به اشتراک گذاشت.
این گزارش همچنین به برخی از جزئیات مربوط به کاربرد هوش مصنوعی Claude توسط گروههای خارجی در عملیاتهای سرقت اطلاعات و کمپینهای انتشار اطلاعات نادرست پرداخته است. ابزارهای هوش مصنوعی برای جستجوی اطلاعات پیرامون اهداف، شناسایی نقاط آسیبپذیری در حسابهای آنلاین، تولید بدافزار جهت دور زدن اقدامات امنیتی و سرقت اطلاعات، و نیز پوشاندن ردها و انتشار اطلاعات نادرست به کار رفتهاند. این کمپینها ویژگیهای زیادی از عملیات نفوذ روسیه را دارند که شامل استفاده از وبسایتهای خبری جعلی و پروفایلهای خبرنگاران خیالی به منظور انتشار اطلاعات نادرست درباره فعالیتهای ناتو در حوزه بالتیک است. ابزارهای هوش مصنوعی تولید شده در ایالات متحده با سادهسازی این فرآیند، افزایش حجم اطلاعات نادرست، و ایجاد خبرنگاران جعلی به شدت بر روند کار تأثیر گذاشتهاند و آنها را برای مخاطبان محلی باورپذیری بیشتری بخشیدهاند.
گروه دیگری به نام GTG-84005 نیز از هوش مصنوعی برای سرقت اطلاعات عمومی و سرشماری استفاده کرده است که به این افراد امکان میدهد پیامهای خود را به صورت خاص برای مخاطبان انتخابی در مالزی تنظیم کنند؛ جایی که این گروه رسانههای دولتی روسیه و چین را به عنوان منابع مستقل به تصویر میکشیدند.
این ارزیابی آنتروپیک تنها دو هفته پس از آن منتشر شد که رقیب آن، OpenAI، افشا کرد که بازیگران روسی از ChatGPT برای ایجاد یک «جامعه متخصص» جعلی با نام «انستیتوی بینالمللی برک» به منظور انتشار نظرات کرملین در بین مخاطبان جهانی بهره بردهاند. بهگفته گزارش ماه اوت مؤسسه مطالعات جنگ (ISW)، با وجود اینکه آنتروپیک و OpenAI موفق به خنثیسازی طرحهای شناساییشده شدند، به احتمال زیاد این عملیاتها ادامه پیدا میکنند؛ چرا که روسیه از هوش مصنوعی به عنوان ابزاری به منظور «تولید محتوای همسو با روایتهای کرملین» استفاده میکند. روسیه همچنین به دنبال استفاده از کنجکاوی جوانان نسبت به هوش مصنوعی است تا تعداد افرادی را که اطلاعات نادرست روسی را به اشتراک میگذارند، افزایش دهد و با کمکهای دانشگاهی و برنامههای مرتبط، «کارآموزی و آموزش رسانهای هوش مصنوعی» را در سطح جهانی برای جوانان فراهم میآورد.
واکنش مناسب آمریکا به تهدیدات هوش مصنوعی
مقالهای که به تازگی در New America منتشر شده، مدعی است که هوش مصنوعی به رژیمهای اقتدارگرا ابزار جدیدی ارائه کرده تا بتوانند درک جهانی از رویدادهای ژئوپلیتیکی را طراحی مجدد کنند. دانیل کیمایج، هماهنگکننده سابق و معاون ارشد مرکز تعامل جهانی وزارت امور خارجه، و دارجان ووجیچا نوشتهاند: «رژیمهای مستبد پیشگامان استفاده از هوش مصنوعی به منظور شکلدهی به واقعیت به نفع خود هستند.» آنها تأکید میکنند که چنین اقداماتی پیش از این منجر به تأسیس نهادهایی از سوی دولت ایالات متحده شده است تا با آنها مقابله کند. با این حال، در دوره دوم دولت ترامپ، این تلاشها تضعیف شده یا به طور کامل متوقف گردید. به عنوان مثال، کمتر از یک ماه پس از روی کار آمدن، پم باندی، دادستان کل، واحد کارگروه نفوذ خارجی FBI را که به بررسی اطلاعات نادرست و کارزارهای نفوذ خارجی میپرداخت، تعطیل کرد.
دو ماه بعد، مارکو روبیو، وزیر امور خارجه، مرکز پیشگیری از دستکاری و تداخل اطلاعات خارجی، که به R/Fimi مشهور است، را بسته است. علاوه بر این، کیمایج و ووجیچا اشاره میکنند: «برنامه اقدام هوش مصنوعی کاخ سفید در سال ۲۰۲۵ به صراحت هرگونه اشاره به اطلاعات نادرست را حذف کرده است»؛ به ویژه در مورد اقداماتی که از سوی خارجیها طراحی شده است. آنها تأکید میکنند: «دولت ترامپ با اشتیاق به تصاویری که به وسیله هوش مصنوعی تولید شدهاند در پستهای تفرقهانگیز سیاسی توجه داشته است.»
نظرات کاربران