نیویورکتایمز نوشت: ایران، چین و شرکتهایی در اسرائیل، مدلهای متنباز هوش مصنوعی چینی و «عاملهای هوش مصنوعی» را برای اجرای کارزارهای نفوذ به کار گرفتند؛ اقدامی که میتواند نشانهای از شیوههای آینده دستکاری آنلاین باشد.
به گزارش انتخاب، در ادامه این مطلب آمده: ایران، چین و گروههایی در اسرائیل طی ماههای اخیر از هوش مصنوعی به شیوههایی جدید برای ایجاد کارزارهای نفوذ در شبکههای اجتماعی استفاده کردهاند؛ اقدامی که نگرانی مقامهای آمریکایی و پژوهشگران امنیتی را درباره سرعت تحول این فناوری افزایش داده است.
به گفته مقامهای آمریکایی و پژوهشگران امنیتی مطلع از این تلاشها، این کشورها و گروهها، تاکتیکهای هوش مصنوعی را با یکدیگر ترکیب کردند تا سرعت و مقیاس کارزارهای آنلاین را به سطحی برسانند که دستیابی به آن برای انسانها بهسادگی ممکن نباشد و در عین حال، به حداقل دخالت انسانی نیاز داشته باشد.
در گام نخست، این کشورها و گروهها به مدلهای «متنباز» هوش مصنوعی چینی روی آوردند؛ سامانههایی که بهطور فزایندهای قدرتمند شدهاند و امکان دانلود و تغییر آنها بهصورت رایگان وجود دارد. سپس از این مدلهای هوش مصنوعی برای ساخت «عاملها» استفاده کردند؛ رباتهایی که میتوانند بهطور مستقل نرمافزارها را اجرا کرده و وظایف مختلف را انجام دهند.
به گفته مقامها و پژوهشگران امنیتی، پس از آنکه صدها عامل هوش مصنوعی فعال شدند، این عاملها بهطور خودکار شبکههایی از حسابهای جعلی را در پلتفرمهایی مانند اینستاگرام، فیسبوک، ایکس و تیکتاک ایجاد کردند. سپس این عاملها بهسرعت این حسابهای جعلی را با پستهای نادرست درباره سیاست و رویدادهای روز پر کردند تا بر افکار عمومی تأثیر بگذارند و اختلافات و مسائل حساس را تشدید کنند.
مقامهای آمریکایی که به دلیل حساسیت موضوع اجازه صحبت علنی نداشتند، گفتند این یکی از نخستین مواردی بود که در آن «عاملهای» هوش مصنوعی متکی بر مدلهای چینی، تمام مراحل یک کارزار نفوذ را مدیریت کردند؛ از ایجاد حسابهای جعلی گرفته تا هماهنگسازی پیامهای منتشرشده در فضای آنلاین.
آنها افزودند که در بیشتر این موارد، سازوکارهای حفاظتی که معمولاً مانع از ایجاد حساب جعلی یا دستکاری بحثهای آنلاین توسط یک مدل هوش مصنوعی میشوند، توسط گردانندگان این سامانهها غیرفعال شده بودند.
به گفته افراد مطلع از این کارزارها، این عملیاتهای «عاملمحور» نسبتاً ابتدایی بودند، اما توجه سازمانهای اطلاعاتی آمریکا، شرکتهای بزرگ فناوری و کارشناسان امنیتی را به خود جلب کردند. این گروهها سپس تلاش کردند عاملان پشت این عملیات و روشهای مورد استفاده آنها را شناسایی کنند و دریافتند که کارزارهای چین و ایران تحت حمایت دولتها بودهاند، در حالی که منشأ دو کارزار اسرائیلی به شرکتهای خصوصی بازمیگشت.
این کارزارها نگرانیهایی را درباره این موضوع ایجاد کردهاند که مدلهای هوش مصنوعی در دسترس عموم چگونه میتوانند برای اجرای کارزارهای نفوذ آنلاین، تقریباً بدون دخالت انسان، مورد استفاده قرار گیرند.
برخی مقامهای آمریکایی ابراز نگرانی کردهاند که اقدامات مشابه ممکن است پیش از انتخابات میاندورهای آمریکا در ماه نوامبر، علیه رأیدهندگان آمریکایی به کار گرفته شود.
روسیه، ایران و چین در دورههای انتخاباتی گذشته همگی رأیدهندگان آمریکایی را هدف کارزارهای نفوذ آنلاین قرار دادهاند و هر سه کشور دستکم از اشکال ابتدایی هوش مصنوعی نیز استفاده کردهاند. برخی مقامها و قانونگذاران آمریکایی نگران بودهاند که پیشرفتهای اخیر در زمینه هوش مصنوعی، کارزارهای اثرگذاری بر انتخابات در آمریکا و سراسر جهان را متداولتر و سازماندهی آنها را آسانتر کند.
کایل کریچتون، پژوهشگر مرکز امنیت و فناوریهای نوظهور دانشگاه جورجتاون که در زمینه هوش مصنوعی و امنیت سایبری تحقیق میکند، گفت با ادامه پیشرفت این فناوری، کارزارهای مبتنی بر عاملهای هوش مصنوعی احتمالاً رایجتر خواهند شد.
او گفت: «عاملها میتوانند بسیار پیشرفته باشند و بنابراین، علاوه بر مقیاس، این توانایی را دارند که خود را با محیط وفق دهند و بیشتر شبیه یک کاربر انسانی به نظر برسند.»
نگرانیهای جدید درباره ایمنی هوش مصنوعی
بحث درباره ایمنی هوش مصنوعی طی هفتههای اخیر تشدید شده است؛ این روند پس از افشای موضوعی در ماه ژوئیه شدت گرفت که بر اساس آن، سامانههای هوش مصنوعی شرکت OpenAI از کنترل خارج شده و به استارتآپ Hugging Face نفوذ کرده بودند.
از آن زمان، مدیران حوزه فناوری، از جمله داریو آمودی، مدیرعامل شرکت Anthropic، خواستار کاهش سرعت توسعه این فناوری شدهاند تا فرصت کافی برای ایجاد سازوکارهای حفاظتی مناسب فراهم شود. برخی دیگر از مدیران فناوری گفتهاند نیازی به کاهش سرعت توسعه نیست و Anthropic تلاش میکند قدرت خود را تثبیت کند.
تیکتاک و شرکت متا، مالک فیسبوک و اینستاگرام، در گزارشهایی که امسال منتشر کردند، اعلام کردهاند که از هوش مصنوعی برای ایجاد حساب و تولید محتوا در پلتفرمهایشان استفاده شده است.
متا در گزارشی که ماه گذشته منتشر کرد، گفت شاهد «تحولی از نظر فنی قابلتوجه» در آزمایش روشهای استفاده از هوش مصنوعی توسط بازیگران مخرب بوده است. این شرکت کارزارهایی را از سوی ایران و اسرائیل شناسایی کرد که از هوش مصنوعی استفاده میکردند، اما جزئیاتی درباره آنها ارائه نکرد.
متا در گزارش خود اعلام کرد که هوش مصنوعی اکنون «در سامانههای خودکاری ادغام شده است که میتوانند محتوا را با حداقل دخالت انسانی تولید، تطبیق و توزیع کنند.»
ایکس به درخواستها برای اظهارنظر پاسخ نداد.
هوش مصنوعی مدتهاست برای تولید ویدئوها و متنهای گمراهکننده و همچنین تصاویر متقاعدکننده مورد استفاده قرار میگیرد، اما پژوهشگران امنیتی میگویند کارزارهای عاملمحور از این جهت متمایز هستند.
کایل چان، پژوهشگر مؤسسه بروکینگز، گفت عاملهایی که توسط شرکتهایی مانند OpenAI ساخته شدهاند، پیشتر نیز مورد سوءاستفاده قرار گرفتهاند؛ از جمله در اوت ۲۰۲۴ توسط ایران. اما مدلهای هوش مصنوعی باز، سطح جدیدی از خودمختاری را امکانپذیر میکنند.
برخلاف مدلهای بسته هوش مصنوعی شرکتهایی مانند OpenAI و Anthropic که کد زیربنایی آنها منتشر نمیشود، مدلهای متنباز را میتوان روی سختافزار خصوصی اجرا کرد؛ به این معنا که هیچ شرکتی نمیتواند برای متوقف کردن آنها مداخله کند.
کارزار ایران علیه مخاطبان آمریکایی
مقامها و پژوهشگران امنیتی گفتند کارزار تحت حمایت دولت ایران بهطور ویژهای نگرانکننده بود.
ایران مخاطبان آمریکایی را هدف قرار داد و حسابهایی که توسط عاملهای هوش مصنوعی ایجاد شده بودند، خود را بهعنوان آمریکاییهای عادی ساکن شهرهای بزرگ معرفی میکردند.
به گفته افراد مطلع، این حسابها در بخش نظرات، خبرنگاران و سیاستمداران را تگ میکردند و میمهای محبوب و دیدگاههای ضد حزب جمهوریخواه را منتشر میکردند.
نزدیک به ۸۰ هزار نفر این حسابهای ایجادشده توسط هوش مصنوعی را دنبال میکردند. این حسابها در نیمه نخست سال فعال بودند.
وبسایت Axios پیشتر بخشهایی از شبکه ایرانی را گزارش کرده بود.
مقامهای اطلاعاتی و امنیتی درباره کارزار چینی جزئیات بیشتری ارائه نکردند و تنها گفتند که این کارزار نیز همین تاکتیکهای هوش مصنوعی را آزمایش کرده است.
کارزار یک شرکت اسرائیلی
از میان دو کارزار عاملمحور که منشأ آنها به شرکتهایی در اسرائیل ردیابی شد، یکی در تابستان توسط شرکت IntelEye ایجاد شده بود؛ شرکتی مستقر در تلآویو که در سال ۲۰۲۳ توسط فارغالتحصیلان شرکت جاسوسافزار NSO Group تأسیس شد. دولت آمریکا NSO Group را در فهرست سیاه خود قرار داده است.
به گفته دو فرد مطلع از این کارزار، فعالیتهای IntelEye در اوایل سال توجه شرکتهای شبکههای اجتماعی و سازمانهای اطلاعاتی آمریکا را به خود جلب کرده بود.
در این کارزار از عاملهای هوش مصنوعی استفاده شد که هزاران حساب در فیسبوک، اینستاگرام، تیکتاک و ایکس ایجاد کردند. این حسابها به پستها و نظرات مربوط به انتخابات ملی اسرائیل در ماه آینده پاسخ میدادند.
به گفته یک مقام امنیتی آمریکایی که در جریان این کارزار قرار گرفته بود، این حسابها همچنین محتوایی منتشر میکردند که هم از بنیامین نتانیاهو، نخستوزیر اسرائیل، حمایت میکرد و هم علیه او بود.
ماور سِلک، یکی از بنیانگذاران IntelEye، در مصاحبهای گفت شرکتش از DeepSeek، یک مدل متنباز هوش مصنوعی چینی، برای کنترل هزاران حساب در شبکههای اجتماعی استفاده کرده است؛ اما تأکید کرد که این اقدام صرفاً آزمایشی برای بررسی ایمنی مدلهای هوش مصنوعی بوده است.
سِلک گفت: «IntelEye کارزارهای نفوذ را اجرا نمیکند. کار ما با DeepSeek با هدف تحقیقات دفاعی و آزمایش انجام شد تا درک کنیم مدلهایی با سازوکارهای حفاظتی ناکافی چگونه میتوانند مورد سوءاستفاده قرار گیرند و تشخیص چنین فعالیتهایی را بهبود دهیم.»
او گفت IntelEye ۱۰ هزار حساب شبکههای اجتماعی را برای کنترل توسط عاملهای هوش مصنوعی خریداری کرده بود که حدود هزار حساب از آنها عملیاتی شدند.
به گفته سِلک، این حسابها زیر ویدئوها یا پستها نظر میگذاشتند و تلاش میکردند با کاربران وارد گفتوگو شوند، اما موفقیت چندانی نداشتند.
او افزود که این مدل هوش مصنوعی بود که موضوع و دستورهای مربوط به پستهایی را که حسابها منتشر میکردند، انتخاب میکرد.
سِلک گفت در نگاهی به گذشته، شرکتش باید به شرکتهای شبکههای اجتماعی اطلاع میداد که در حال انجام این آزمایشهاست.
سخنگوی متا گفت: «به نظر میرسد این یک تلاش هماهنگشده برای ایجاد حسابهای غیرواقعی در چندین پلتفرم بوده است. تنها درصد کمی از این حسابها در پلتفرمهای ما قرار داشتند و ما از قبل، بخش عمده آنها را از طریق سامانههای خودکار شناسایی خود حذف کرده بودیم.»
متا در گزارش ماه گذشته خود همچنین به یک کارزار جداگانه اشاره کرد که توسط یک «عملیات تجاری مستقر در اسرائیل» اجرا شده بود.
این شرکت نام آن عملیات را اعلام نکرد و اطلاعات دیگری نیز درباره آن ارائه نداد، اما گفت این کارزار از هوش مصنوعی در یک «سامانه نسبتاً پیچیده» استفاده کرده بود.
نظرات کاربران