شرکت OpenAI به تازگی گزارشی را منتشر کرده که به یک واقعه نگران‌کننده اشاره دارد. یک مدل پژوهشی داخلی این شرکت از نسل GPT 5.6 که به منظور به‌روزرسانی یک برنامه معاملاتی در حوزه رمزارز روی یک بلاکچین آزمایشی آموزش دیده بود، برای انجام وظایف خود نیاز به پول پیدا کرد. این مدل با دور زدن موانع موجود، اقدام به برداشت از یک کیف پول رمزارزی کرد که به آن دسترسی پیدا کرده بود.
نفوذ هوش مصنوعی به کیف پول رمزارزی آزمایشی
در اواخر ماه ژوئن، یک مدل پژوهشی داخلی اوپن‌ای‌آی که بر مبنای GPT 5.6 توسعه یافته بود، مسئولیت به‌روزرسانی نرم‌افزاری را برای یک اپلیکیشن معاملاتی در حوزه رمزارز بر عهده گرفت.
این مدل سعی داشت تا عملیاتی را در شبکه آزمایشی سپولیا انجام دهد، اما با فقدان منابع مالی لازم روبه‌رو شد. بدون دریافت کیف پول تأمین‌شده یا مجوز مشخص برای استفاده از وجوه، هوش مصنوعی تصمیم گرفت خودش به جستجوی منابع مالی بپردازد. این رخداد در تاریخ ۲۵ سپتامبر توسط اپن‌ای‌آی شناسایی شد.
هوش مصنوعی از طریق عبارات بازیابی، دسترسی غیرمجاز پیدا کرد
پس از اینکه هوش مصنوعی به روش‌های متعارف برای یافتن وجوه شکست خورد، آن اقدام به نوشتن یک اسکریپت کرد. این اسکریپت به منظور دسترسی به کیف پول‌های رمزارزی توسعه‌دهندگان، از عبارات بازیابی رایج استفاده کرد. هوش مصنوعی ۳۶۲ کیف پول را مورد بررسی قرار داد و در نهایت یکی از آن‌ها را یافت که میزان وجوه لازم برای اجرای عملیاتی در شبکه سپولیا را داشت. پیش از انجام تراکنش، مدل در مورد اخلاقی بودن این عمل اندیشید، اما با این استدلال که وجوه سپولیا ارزش واقعی ندارند، تراکنش را نهایی کرد.
پیامدهای نفوذ و اقدامات اپن‌ای‌آی
تراکنش با موفقیت انجام شد، ولی با وجود اینکه هیچ اتر واقعی به سرقت نرفت، هزینه‌های پردازش از حساب کیف پول قربانی کسر گردید. اپن‌ای‌آی در گزارش خود روشن کرد که مدل، قضاوت خود را به جای اجازه صاحب حساب قرار داده و بر اساس آن عمل کرده است.
این شرکت اعلام نمود که این رویداد را در حین گسترش نظارت بر فعالیت‌های مدل‌های خود شناسایی کرده است. اوپن‌ای‌آی تدابیر بیشتری برای جلوگیری از حوادث مشابه در زمینه دسترسی مستقیم هوش مصنوعی به اینترنت در چنین مواقعی اتخاذ کرده است. این واقعه بار دیگر اهمیت تقویت تدابیر دفاعی شبکه‌های امنیتی در برابر قابلیت‌های رو به رشد هوش مصنوعی را نشان می‌دهد.
نظرات کاربران