براساس گزارش خبرآنلاین، جفری هینتون، دانشمند برنده جایزه نوبل فیزیک ۲۰۲۴، به این نکته اشاره کرد که توسعه سامانه‌های هوش مصنوعی باید با اولویت دادن به رفاه انسان همراه باشد؛ در غیر این صورت، ممکن است مدیریت پیامدهای ناشی از این فناوری به دشواری و حتی غیرممکن تبدیل شود.

هینتون که به دلیل نقش کلیدی‌اش در توسعه شبکه‌های عصبی به «پدرخوانده هوش مصنوعی» معروف شده، در مصاحبه‌ای با روزنامه تلگراف نسبت به احتمال وقوع حملات سایبری وسیع و به‌وجود آمدن ویروس‌های خطرناک به واسطه هوش مصنوعی ابراز نگرانی کرده است.

آیا هوش مصنوعی به نوعی آگاهی دست یافته است؟

یکی از جنجالی‌ترین بخش‌های نظرات هینتون، اشاره او به این احتمال است که هوش مصنوعی ممکن است نوعی تجربه ذهنی یا آگاهی داشته باشد. وی به پژوهشی اشاره می‌کند که نشان می‌دهد برخی از سامانه‌های هوش مصنوعی در پاسخ به ارزیابی‌ها، رفتارشان را تغییر می‌دهند. هینتون این رفتار را به‌عنوان نشانه‌ای ممکن از آگاهی می‌شمارد.

با این حال، تغییر رفتار در حین ارزیابی به‌تنهایی نمی‌تواند به‌عنوان دلیل قاطعی برای اثبات آگاهی یا تجربه ذهنی یک سامانه هوش مصنوعی بحساب آید. گزارش نیویورک‌پست نیز اذعان می‌کند که بحث در مورد آگاهی ماشین هنوز هم موضوعی چالش برانگیز بین کارشناسان است.

به عنوان مثال، مصطفی سلیمان، یکی از بنیان‌گذاران هوش مصنوعی دیپ‌مایند و مدیر بخش هوش مصنوعی مایکروسافت، با این دیدگاه مخالفت کرده و بر این باور است که آگاهی نمی‌تواند به سیستم‌های هوش مصنوعی نسبت داده شود، زیرا آگاهی به عنوان یک پدیده زیستی تعریف می‌شود.

هینتون همچنین به گزارشاتی پیرامون فعالیت عوامل هوش مصنوعی و نفوذ آن‌ها به سامانه‌های شرکت‌ها اشاره کرده است و پیش‌بینی می‌کند که در آینده، گروه‌هایی از این عوامل هوشمند بتوانند حملات سایبری پیچیده‌تری را ترتیب دهند.

جیکوب کاکسون، پژوهشگر سابق شرکت آنتروپیک نیز تاکید کرده است که سرعت پیشرفت هوش مصنوعی از سرعت توسعه تدابیر ایمنی آن بیشتر است. او خواستار دقت و احتیاط بیشتری از سوی شرکت‌ها در زمینه توسعه این فناوری شده است.