به نقل از خبرآنلاین، یاو شون‌یو (Yao Shunyu)، که به عنوان دانشمند ارشد در حوزه هوش مصنوعی در شرکت تنسنت و محقق پیشین OpenAI مشغول به فعالیت است، بیان کرده است که مدل‌های پیشرفته هوش مصنوعی به نقطه‌ای رسیده‌اند که قابلیت‌های زیستی آن‌ها می‌تواند به ابزاری برای آسیب‌رساندن تبدیل شود.
این هشدار در خلال یک گردهمایی علمی مشترک میان آکادمی علوم هنگ‌کنگ و جوایز علمی آینده بیان شد. به گفته یاو، همزمان با این‌که قابلیت‌های سایبری مدل‌های هوش مصنوعی به سطحی رسیده‌اند که امکان سوءاستفاده از آن‌ها وجود دارد، توانایی‌های زیستی این مدل‌ها نیز به‌زودی ممکن است از این آستانه عبور کنند.
هوش مصنوعی: هم ابزار درمان و هم تهدید احتمالی
مدل‌های هوش مصنوعی می‌توانند به پژوهشگران در تحلیل داده‌های زیستی، بررسی ساختار پروتئین‌ها و کشف داروهای نوین یاری رسانند. اما این توانایی‌ها نیز جنبه‌های دوگانه‌ای دارند. ابزارهایی که با هدف پیشرفت در تحقیقات پزشکی توسعه می‌یابند، ممکن است به‌دست افرادی بیفتند که نیت استفاده مخرب از آن‌ها را داشته باشند.
نگرانی اصلی آن است که مدل‌های قدرتمند قادر به ارائه بخشی از دانش تخصصی زیست‌شناسی به افراد بیشتری باشند و موانع فعالیت‌های خطرناک را کاهش دهند. این هشدار به معنای این نیست که مدل‌های کنونی به‌تنهایی توانایی ساخت سلاح‌های زیستی یا ایجاد یک همه‌گیری جدید را دارند.
مدل جدید تنسنت و مسأله دسترسی آزاد
این هشدار چند روز پس از رونمایی از مدل هوش مصنوعی Hy4 توسط تنسنت اعلام شد. این شرکت در تاریخ چهارم نوامبر اظهار داشت که مدل جدیدش با تأکید بر قابلیت‌های دفاعی در زمینه امنیت سایبری آموزش دیده و داده‌های مرتبط با سوءاستفاده‌های تهاجمی از آسیب‌پذیری‌های نرم‌افزاری را از روند آموزش آن کنار گذاشته است.
همچنین تنسنت اعلام کرد Hy4 دانش مناسبی در حوزه زیست‌شناسی دارد، اما در طراحی آزمایش‌های مستقل و پیچیده از مدل‌های پیشرفته‌تر عقب‌تر است. این ارزیابی مبتنی بر بررسی‌های داخلی متخصصان شرکت بوده و هنوز تأیید مستقلی از سوی محققان خارج از سازمان صورت نگرفته است.
شرکت تنسنت قصد دارد وزن‌های مدل Hy4 و گزارشی درباره ارزیابی‌های ایمنی آن را منتشر کند. انتشار وزن‌ها به این معناست که توسعه‌دهندگان می‌توانند مدل را دانلود کرده و بر روی زیرساخت خود اجرا یا آن را تغییر دهند. این ویژگی به افزایش دسترسی و امکانات پژوهش کمک می‌کند، ولی در عین حال مدیریت شرکت سازنده بر نحوه استفاده از مدل را نیز پیچیده‌تر می‌سازد.
یاو بر این باور است که شرکت‌هایی که مدل‌های باز منتشر می‌کنند باید ارزیابی‌های ایمنی را با جدیت در نظر داشته باشند. او همچنین تأکید می‌کند که این مدل‌های باز می‌توانند در ارتقاء دفاع سایبری و مقابله با تهدیدها مؤثر باشند. از نظر او، ترکیب مدل‌های باز و بسته ممکن است رویکرد مناسبی برای پیشرفت این فناوری باشد.
چالش زیست‌شناسی در این است که جداسازی کاربردهای دفاعی از کاربردهای مخرب آن همیشه آسان نیست. دانش مورد نیاز برای شناسایی یک عامل بیماری‌زا یا طراحی درمان می‌تواند در برخی مواقع برای اهداف خطرناک نیز به کار گرفته شود. لذا ارزیابی ایمنی مدل‌های زیستی صرفاً از طریق آزمون‌های نرم‌افزاری ممکن نیست و به نظارت و بررسی‌های دقیق‌تر توسط متخصصان احتیاج دارد.
هشدار مقام ارشد تنسنت نشان می‌دهد که با افزایش توانایی مدل‌ها در انجام پژوهش‌های علمی، ایمنی زیستی به یکی از مسائل اصلی در رقابت‌های شرکت‌های فعال در حوزه هوش مصنوعی تبدیل گردیده است.
۵۸۵۸
نظرات کاربران