بر اساس گزارش خبرگزاری خبرآنلاین و نقل از دیجیاتو، «سم آلتمن» بخشی قابل توجه از وقت خود را به تبیین امتیازات هوش مصنوعی و تلاش برای ارتقای شرایط زندگی در جهان اختصاص می‌دهد، در عین حال با پیش‌بینی‌های ناامیدکننده‌ای که به نگرانی‌های آخرالزمانی مربوط می‌شود، مقابله می‌کند. با این حال، مدیرعامل شرکت OpenAI نگرانی‌های قابل توجهی را درباره وضعیت‌هایی که ممکن است توسعه هوش مصنوعی به فاجعه منجر شود، مطرح کرده است. او به تفصیل این مسایل را در قسمت تازه‌ای از پادکست Figuring Out With Raj Shamani بررسی کرد.
آلتمن توضیح می‌دهد که دو سناریوی ویران‌کننده وجود دارد که از دو چالش تقریباً متضاد نشات می‌گیرند؛ یا بشریت کنترل بر ماشین‌هایی که از آن‌ها قدرتمندتر هستند را از دست می‌دهد، یا یک گروه خاص انحصار و تسلط زیادی بر این فناوری به‌دست می‌آورد. او در توضیح این دو وضعیت می‌گوید: «یکی از این حالات این است که کنترل به هوش مصنوعی واگذار گردد؛ ما با خواسته یا ناخواسته مهار آینده را به سیستم‌هایی می‌سپاریم که به شکل شگفت‌انگیزی از ما قدرتمندترند و دیگر قادر به بازپس‌گیری آن نخواهیم بود. حالت دیگر این است که یک فرد، یک شرکت یا یک کشور، قدرتش نسبت به دیگران به طرز غیرمعمولی افزایش پیدا کند.»
سناریوی اول برخلاف تصورات سنتی درباره شورش ربات‌ها، در واقع به معنای تسلیم آرام قدرت انسان به هوش مصنوعی است؛ تا جایی که بازپس‌گیری ارتباط انسانی با این نرم‌افزار غیرممکن خواهد بود. سناریوی دوم نیز به داستان‌های علمی‌تخیلی مدرن نزدیک است، جایی که یک فناوری قدرتمند در دست یک فرد یا شرکت خاص قرار می‌گیرد و دیگر افراد تحت اختیار آن‌ها خواهند بود. در حالی‌که این دو سناریو به‌طور مکرر از سوی فعالان این عرصه و تصمیم‌گیران مورد بحث قرار می‌گیرد، هشدار مستقیم آلتمن به‌عنوان یکی از چهره‌های کلیدی در حوزه هوش مصنوعی، اهمیت دوچندان دارد.
ورود به دنیای تصمیم‌گیری و پیامدهای تفویض کنترل
نگرانی از عدم کنترل بر هوش مصنوعی به خاطر انتقال اختیارات از سوی انسان‌ها، در سال‌های اخیر به شکل جدی‌تری مطرح شده است؛ زیرا این سیستم‌ها اکنون از مرحله پاسخ‌گویی ساده به دنیای تصمیم‌گیری پا گذاشته‌اند. مدل‌ها و ایجنت‌ها دیگر تنها در وب فعالیت نمی‌کنند، بلکه می‌توانند وظایف پیچیده را با حداقل نظارت انسانی به انجام رسانند. با افزایش مسئولیت‌های محول‌شده به این سیستم‌ها، خطر دور شدن اهداف آن‌ها از آمال واقعی بشریت نیز شدت پیدا می‌کند.
شایان ذکر است که هوش مصنوعی امروزی بر مبنای پیش‌بینی احتمالات فعالیت می‌کند. اگرچه این سامانه‌ها بسیار قدرتمند هستند و اطلاعات وسیعی را تجزیه و تحلیل می‌کنند، اما مانند انسان‌ها توانایی قضاوت و درک واقعی شرایط را ندارند و برای انجام کارهای زیان‌بار نیازی به انگیزه‌ای شوم نیست؛ به همین خاطر در هنگام شبیه‌سازی‌های مدیریتی کشورها، می‌تواند به تصمیمات فاجعه‌آمیزی مانند استفاده از سلاح هسته‌ای برسد.
نگرانی‌های آلتمن به‌طور معناداری در تضاد با فعالیت‌ها و موقعیت شرکت OpenAI قرار دارد. این شرکت تاکنون در جنبه‌های مختلف توانایی‌های خود را اثبات کرده و آلتمن در توضیح قدرت سازمانش می‌گوید: «به نظر من، ما از نظر تعداد کاربر و بهترین فناوری‌ها از جمله تراشه‌ها، مراکز داده، مدل‌ها و دیگر مولفه‌ها پیشرو هستیم؛ زیرساختی که هوش مصنوعی را به پهنه وسیعی از افراد می‌آورد. ما بهترین برند و ارزش‌هایی داریم که کاربران از این فناوری به دنبالش هستند؛ ضمن اینکه می‌خواهیم دیگران نیز در این زمینه موفق شوند و معتقدم مردم این نگرش را از ما درک می‌کنند.»
با وجود تمامی این هشدارها، آلتمن نسبت به آینده و مسیر پیش روی بشر خوش‌بین است و باور دارد نسل‌های بعدی با این تغییرات سازگار خواهند شد. او در این راستا توضیح می‌دهد: «نمی‌توانم پیش‌بینی کنم آینده چگونه خواهد بود، اما خیالم راحت است و به توانایی بشر برای سازگاری، پیشرفت و بهبود اجتماع اطمینان دارم؛ فکر می‌کنم دنیا به احتمال زیاد در آینده روز به روز بهتر خواهد شد.»
این دیدگاه امیدوارکننده به برنامه‌های OpenAI برای بهره‌برداری از هوش مصنوعی در تحقیقات علمی نیز گسترش یافته است. آلتمن درباره چشم‌انداز آینده توضیح می‌دهد: «بسیار مشتاقم که ببینم چطور می‌توانیم از هوش مصنوعی برای کشف علوم جدید بهره ببریم. من ماشینی را متصور می‌شوم که بتواند به درک بهتر ما از جهان یاری رساند؛ بینش‌های عمیق در حوزه فیزیک، درمان‌های نوین پزشکی و منابع جدید انرژی را کشف کند؛ مسائلی که شاید در حال حاضر حتی تصورش هم برایمان دشوار باشد اما با درک علمی بهتر امکان‌پذیر خواهد شد. از ساخت چنین ماشینی فوق‌العاده خرسندم.»
اظهارات جدید آلتمن در حالی مطرح شده که چند هفته پیش او خبر از انتشار دستاوردهای ریاضی بیشتری از سوی هوش مصنوعی داده بود. همچنین «گرگ براکمن»، دیگر هم‌بنیانگذار OpenAI، در یک کنفرانس ایده‌ای را مطرح کرده بود مبنی بر اینکه هوش مصنوعی ممکن است در آینده مرگ را به گزینه‌ای اختیاری تبدیل کند.
۲۲۷۲۲۷
نظرات کاربران