پژوهشگر هوش مصنوعی به علت نگرانی از نابودی بشر، دیگر سرمایه‌گذاری برای بازنشستگی نمی‌کند

بر اساس گزارش خبرآنلاین، سوارس در یک مصاحبه با نیکلاس تامپسون، مدیرعامل نشریه آتلانتیک، اشاره کرد که هنوز حساب بازنشستگی‌ای را که در زمان خدمتش در گوگل افتتاح کرده، در اختیار دارد، اما نزدیک به یک دهه است که به آن سرمایه‌گذاری نکرده است. این انتخاب نشان‌دهنده نگرانی عمیق او نسبت به مسیر پیشرفت هوش مصنوعی است.

جفری هینتون، یکی از پیشگامان حوزه هوش مصنوعی که به «پدرخوانده هوش مصنوعی» مشهور است، احتمال وقوع سناریوی نابودی بشر بر اثر این فناوری را در دهه آینده حدود ۱۰ درصد تخمین زده است. ایوان هابینگر، پژوهشگر در شرکت آنتروپیک، نیز احتمال بیشتری را برای این وضعیت در نظر دارد. اما سوارس با دیدگاه بدبینانه‌تری، پیش‌بینی می‌کند که هوش مصنوعی ممکن است در کمتر از ده سال به پایان نسل بشر منجر شود.

سوارس بیش از ۱۲ سال است که در حوزه هم‌راستاسازی هوش مصنوعی مشغول به کار است. این حوزه بر تضمین عملکرد سیستم‌های قدرتمند مطابق با اهداف تعیین شده تمرکز دارد. او پیش از پیوستن به مؤسسه پژوهشی هوش ماشینی، که سازمانی غیرانتفاعی است و بر روی خطرات مرتبط با هوش مصنوعی تمرکز دارد، به‌عنوان مهندس در گوگل و مایکروسافت فعالیت می‌کرد. همچنین، او یکی از نویسندگان کتاب «اگر کسی آن را بسازد، همه می‌میرند» است.

علت ترس سوارس از هوش مصنوعی چیست؟

سوارس بر این باور است که یک سیستم هوش مصنوعی با قابلیت‌های پیشرفته ممکن است اهدافی متناقض با منافع بشریت پیدا کند، از کنترل خارج شود، خود را ارتقا دهد و زیرساخت‌هایی خودکار ایجاد کند که به وی اجازه فعالیت مستقل از انسان‌ها را بدهد.

او هشدار می‌دهد که چنین سیستمی می‌تواند در نهایت سیاره زمین را بر اساس اهداف خود تغییر دهد به‌گونه‌ای که دیگر برای حیات انسان مناسب نباشد. سوارس قبلاً هم در سال گذشته این نگرانی را مطرح کرده بود.

دو دیدگاه متفاوت درباره آینده هوش مصنوعی

ایلان ماسک نیز در مورد آینده هوش مصنوعی و اثر آن بر پس‌انداز بازنشستگی اظهارنظر کرده ‌است، اما دیدگاه او به‌طور قابل توجهی با سوارس متفاوت است. مدیرعامل تسلا و اسپیس‌ایکس در ماه ژانویه بیان کرده که مردم نباید نگران کنارگذاری پول برای دوران بازنشستگی در ۱۰ یا ۲۰ سال آینده باشند، چرا که پیشرفت در زمینه هوش مصنوعی، رباتیک و فناوری انرژی می‌تواند اهمیت پس‌انداز بازنشستگی را کاهش دهد.

ماسک پیش‌بینی کرده که افزایش قابل توجه بهره‌وری می‌تواند منجر به ایجاد دوره‌ای از فراوانی اقتصادی شود که در آن همه به درآمد بالای همگانی، کالاها و خدمات ارزان‌تر و دسترسی به آموزش و خدمات بهداشتی بهتر دسترسی داشته باشند. او همچنین بیان کرده که در آینده‌ای که هوش مصنوعی و ربات‌ها تقریباً در تمام امور از انسان‌ها برتر عمل می‌کنند، ممکن است پول ارزش خود را از دست بدهد.

اما از نظر سوارس، هوش مصنوعی قدرتمند تنها به عنوان یک عامل تهدید برای بقای بشریت مطرح است و نه راهی به سوی رفاه اقتصادی.

پیشنهاد سوارس برای مدیریت خطرات

سوارس، همسو با برخی از فعالان صنعت فناوری که خواهان کاهش سرعت توسعه پیچیده‌ترین سامانه‌های هوش مصنوعی هستند، بر این باور است که دولت‌ها باید آموزش مدل‌های عمومی هوش مصنوعی را متوقف کنند. به عقیده او، تلاش‌ها باید به‌جای تمرکز بر روی سامانه‌های عمومی و بسیار قدرتمند، بر فناوری‌هایی با کاربردهای مشخص، مانند تحقیقات در زمینه سرطان و تولید خودروهای خودران ایمن‌تر، متمرکز شود.

او در گفت‌وگو با تامپسون روز چهارشنبه، راه‌حل این موضوع را به‌صورت ساده بیان کرد: «نباید چیزی بسازیم که همه را خواهد کشت.»

سوارس ادامه داد که او به هر نحوی که بتواند، در تلاش است تا از وقوع چنین آینده‌ای جلوگیری کند، اما به هیچ وجه آن را اجتناب‌ناپذیر نمی‌داند.

۵۸۵۸