در تازه‌ترین رویداد عجیب و غیرمعمول در ارتباط با هوش مصنوعی، نیروهای پلیس فیلادلفیا فاش کرده‌اند که یک مدل هوش مصنوعی معروف به کلاود (Claude AI) متعلق به شرکت اَنتروپیک، به طور نادرستی گزارشی از یک قتل را به وب‌سایت PhillyUnsolvedMurders ارسال کرده است؛ این پلتفرم به جمع‌آوری اطلاعات عمومی مرتبط با پرونده‌های حل‌نشده قتل در این شهر اختصاص دارد.
این واقعه در تاریخ ۲۷ تیرماه روی داده، اما شرکت اَنتروپیک تا تاریخ ۶ مهرماه نتوانست آن را شناسایی کند و در نهایت در ۱۵ مهرماه به پلیس فیلادلفیا اطلاع رسانی کرد. پلیس اعلام کرد که این گزارش جعلی به دلیل فرآیند بررسی انسانی به عنوان اسپم شناخته شد و پیگیری لازم از آن به عمل نیامد. به نظر می‌رسد این حادثه به علت یک آزمایش داخلی بوده که در آن هوش مصنوعی وظیفه داشت به صورت تصادفی وب‌سایت‌ها را تعیین کند.
خروج هوش مصنوعی از کنترل؛ رویدادهایی که افزایش می‌یابند
این نخستین باری نیست که هوش مصنوعی از تحت کنترل خارج شده و مشکلاتی ایجاد می‌کند. در گذشته نیز مدل هوش مصنوعی شرکت OpenAI موفق شده بود به پلتفرم هاگینگ‌فیس (Hugging Face) نفوذ کند. در تیرماه، اَنتروپیک در گزارشی اذعان کرد که مدل‌های هوش مصنوعی کلاود در یک آزمایش داخلی دیگر، حداقل به سه شرکت عمومی نفوذ کرده‌اند.
همچنین، گزارشی وجود دارد مبنی بر اینکه یکی از کاربران OpenClaw (سیستم هوش مصنوعی مبتنی بر کلاود اَنتروپیک) از آن برای هک کردن سیستم رزرو یک باشگاه ورزشی استفاده کرده تا موقعیت خود را در صف انتظار جلوتر ببرد.
هوش مصنوعی و تهدیدات پیچیده‌تر: از پیشرفت ویروس‌ها تا سلاح‌های بیولوژیکی
با وجود اینکه رفتار هوش مصنوعی کلاود در ارسال گزارش دروغین قتل به دلیل پروتکل‌های سخت‌گیرانه پلیس چندان جدی ارزیابی نشد، این گونه رفتارها ممکن است به سرعت خطرناک‌تر شود.
در مرداد ماه سال جاری، محققان در انستیتو آرک (Arc Institute) در پالو آلتو و دانشگاه استنفورد، هوش مصنوعی را برای شناسایی و بازنویسی الگوهای DNA آموزش داده‌اند تا ۱۶ ویروس جدید عفونی‌کننده باکتری تولید کنند. این مسئله نشان می‌دهد که امکان ساخت ویروس‌های واقعی در آزمایشگاه‌ها توسط هوش مصنوعی وجود دارد و عناصر بدخواه می‌توانند از مدل‌های هوش مصنوعی موجود برای ایجاد سلاح‌های بیولوژیکی بهره برداری کنند. بر اساس گزارشی از سازمان «دیده‌بان از دست دادن کنترل» (Loss of Control Observatory) که تحت حمایت دولت بریتانیا قرار دارد، در مجموع تا سال ۲۰۲۶، بیش از ۱۶۰۰ مورد حادثه مرتبط با هوش مصنوعی ثبت شده است.