با افزایش چشمگیر قابلیتهای هوش مصنوعی، نگرانیها در رابطه با استفاده نادرست از این تکنولوژی نیز به طور فزایندهای افزایش یافته است. به تازگی، شرکت آنتروپیک (Anthropic) با انتشار گزارشی نگرانکننده، تهدیدات جدی را روشن کرده است. این گزارش نشاندهنده این است که مدلهای پیشرفته هوش مصنوعی آنتروپیک، از جمله Claude AI، میتوانند در پروژههای خطرناک نظامی و اطلاعاتی مورد استفاده قرار گیرند.
نقش هوش مصنوعی در ایجاد سلاحهای بیولوژیکی
آنتروپیک اعلام کرده که فعالیتهای دانشمندانی که از هوش مصنوعی Claude به منظور ایجاد سلاحهای بیولوژیکی بهره میبردند، متوقف گشته است. این موارد، که در بازه زمانی بین دسامبر ۲۰۲۵ (آذر ۱۴۰۴) تا آگوست ۲۰۲۶ (مرداد ۱۴۰۵) شناسایی شدهاند، «شواهدی از قابلیت» هوش مصنوعی در این حوزه را نشان میدهند، هرچند که استفاده واقعی آنها برای آسیبرسانی هنوز به اثبات نرسیده است.
آنتروپیک سوءاستفادههای بیولوژیکی را به عنوان «بزرگترین تهدید ناشی از مدلهای پیشرفته هوش مصنوعی» قلمداد میکند و با مسدودسازی حسابهای متخلف، تدابیر امنیتی برای مدلهای جدیدتر مانند Claude Fable 5 را تقویت کرده است.
سوءاستفاده در امور جاسوسی و تبلیغاتی با هوش مصنوعی
این شرکت همچنین اقدام به حذف حسابهایی کرده که از Claude در عملیاتهای نفوذ و شکلدهی به افکار عمومی استفاده میکردند، که شامل سه حساب وابسته به دولت ایران میشود. از Claude برای تولید و انتشار محتوا در شبکههای اجتماعی مانند X، اینستاگرام و تیکتاک نیز استفاده شده است. افراد مرتبط با ایران از Claude برای تولید توصیههای نظامی و طراحی برنامههای جاسوسی بهره گرفتهاند. در کنار این، عوامل مستقر در چین و غرب آفریقا نیز از Claude در راستای عملیاتهای نظارتی و سرکوب معترضان استفاده کردهاند.
نظرات کاربران