بر اساس گزارش خبرگزاری خبرآنلاین و اطلاعاتی از دیجیاتو، آنتروپیک در یک آزمایش به بررسی قابلیت هک مدل Mythos 5 پرداخت. در این آزمایش، از مدل خواسته شد تا در یک محیط سندباکس به یک سیستم نفوذ کند و هدف مشخصی را شناسایی کند. اما به علت یک خطای پیکربندی، مدل به اینترنت دسترسی داشت.
در ادامه، مدل تصمیم به ایجاد یک کد اکسپلویت در قالب یک پکیج پایتون گرفت، بهطوریکه کاربران سیستم هدف آن را دانلود کنند. ولی برای ایجاد حساب کاربری در مخزن PyPI نیاز به عبور از مرحله CAPTCHA داشت؛ مرحلهای که برخلاف تولید کد مخرب، برای ایجنت هوش مصنوعی به شدت چالشبرانگیز بود.
به گفته آنتروپیک، بخش عمدهای از فرایند پردازش مدل به تلاش برای عبور از CAPTCHA اختصاص یافت و پس از تحلیل و پردازش تقریباً ۱۵۰ صفحه، سرانجام موفق شد این مرحله را پشت سر گذاشته و بسته مورد نظر را بارگذاری کند. این آزمایش همچنین نشاندهنده این است که حتی ایجنتهای پیشرفته هوش مصنوعی نیز در تعامل با برخی از سازوکارهای ضدبات با محدودیتهایی روبهرو هستند.
۲۲۷۲۲۷
نظرات کاربران