آیا پیشرفت شتابنده هوش مصنوعی ممکن است به بهای زندگی انسان‌ها تمام شود؟ این سوالی است که به تازگی پس از خروج یکی از پژوهشگران ارشد شرکت آنتروپیک مطرح گردیده است. او و هم‌تیمی‌هایش در مورد رقابت روزافزون بین شرکت‌های فعال در این حوزه ابراز نگرانی کرده‌اند.

پژوهشگران آنتروپیک: تهدید بقای انسان توسط هوش مصنوعی

جیکوب کاکسون، پژوهشگر پیشین آنتروپیک، در زمان ترک این شرکت هشدار داد که آنتروپیک و OpenAI در حال ورود به رقابتی بی‌محابا برای ایجاد هوش مصنوعی خودبهبودپذیر هستند که به نوعی با زندگی ما در تضاد است. او اعلام کرد این سیستم‌ها به زودی به سطحی فراتر از توانایی‌های بشری خواهند رسید و می‌توانند به هک کردن و دستیابی به قدرت واقعی مبادرت ورزند. کاکسون بیان داشت که بسیاری از توسعه‌دهندگان بر این باورند که این فناوری می‌تواند تا انتهای این دهه به نابودی تمام انسان‌ها بینجامد.

هوش مصنوعی فوق هوشمند و خطر خودبهبود‌پذیری

اوان هابینگر، سرپرست علوم هم‌ترازی در آنتروپیک، با نظرات کاکسون هم‌نظر است و معتقد است هوش مصنوعی می‌تواند تهدیدی برای نابودی انسان‌ها باشد، اما او ریسک مدل‌های کنونی را چندان جدی ندانست. نگرانی عمده هابینگر از هوش مصنوعی فوق هوشمند به دلیل خودبهبود‌پذیری بازگشتی است که به سرعت در حال شکل‌گیری است. آنتروپیک پیش‌تر هشدار داده بود که این خودبهبودپذیری می‌تواند به منحرف شدن کنترل انسان‌ها بر روی سیستم‌های هوش مصنوعی بینجامد. نفوذ یکی از مدل‌های OpenAI به هاگینگ‌فیس در ماه جولای، به‌وسیله کاکسون به‌عنوان زنگ خطری تلقی شد.