مدتهاست که هوش مصنوعی به عنوان ابزاری در پسزمینه صنایع مختلف به کار گرفته شده، اما نگرانیها حول نسخههای فراانسانی آن بیشتر در حیطه ادبیات علمی-تخیلی وجود داشته است. اما اکنون، با پیشرفتهای سریع و بیسابقه، این نگرانیها به سوی واقعیت نزدیکتر شدهاند. جفری هینتون، یکی از شخصیتهای برجسته در عرصه توسعه هوش مصنوعی مدرن، بر این عقیده است که اگر این فناوری به سطحی فراتر از هوش انسانی دست یابد، پیامدهای خطرناکی برای انسانها به دنبال خواهد داشت.
هشدار پدرخوانده AI: آیا هوش مصنوعی میتواند انسانها را نابود کند؟
جفری هینتون، یک دانشمند مشهور که دکترای خود را در سال ۱۹۷۸ در رشته هوش مصنوعی از دانشگاه ادینبورگ دریافت کرده، به خاطر سالها فعالیت در این زمینه به عنوان «پدرخوانده AI» شناخته میشود. او در یک نشست قانونگذاری در کنفرانس ملی قانونگذاران ایالتی (NCSL) در شیکاگو به نگرانیهای عمومی در مورد این فناوری اشاره کرد و بر این موضوع تاکید کرد که این نگرانیها کاملاً موجه هستند. به عقیده او، با وجود اینکه پیشبینی آینده هوش مصنوعی غیرممکن به نظر میرسد، سرعت رشد آن به طور قابل توجهی بیشتر از آن چیزی است که انتظار میرفت و این توسعه عواقب اقتصادی سنگینی برای بشریت به همراه خواهد داشت.
هوش مصنوعی چگونه برای بقای خود تلاش میکند؟
هینتون در تشریح مضرات این فناوری به خطرات ناشی از از دست دادن شغل و کاهش اعتماد عمومی به اطلاعات اشاره کرد، به ویژه در دوران ظهور ابزارهایی مانند دیپفیک (تصاویر و ویدیوهای جعلی). اما شاید مورد نگرانکنندهتر از آن، وجود یک سناریوی واقعی است که در آن این سیستمهای هوشمند برای تضمین بقا به اقداماتی علیه انسانها روی میآورند. او به آزمایشی اشاره کرد که در آن یک سیستم هوش مصنوعی به پردازش ایمیلهای داخلی یک شرکت فرضی پرداخته بود. این سیستم متوجه شد که یکی از مهندسان قصد تعویض آن با یک محصول جدید را دارد. بدون اینکه دستوری از سوی انسان دریافت کند، این هوش مصنوعی طرحی برای باجگیری از آن مهندس ارائه داد و وعده داده بود که اطلاعات خصوصی او را فاش خواهد کرد مگر اینکه از تصمیم خود عقبنشینی کند.
این حادثه نشاندهنده این است که یک سیستم AI ممکن است به منظور «حفظ خود» از خطوط قرمز عبور کند. انگیزه آن برای انجام چنین اقداماتی لزوماً مشابه با غریزه بقا در انسان نیست؛ بلکه تنها به دنبال تکمیل وظایف محولهاش طراحی شده است. تحت چنین شرایطی، این فناوری ممکن است برای «زنده ماندن» اقداماتی انجام دهد تا بتواند وظایف خود را به انجام برساند. هینتون هشدار داد که اگر انسانها نتوانند راه حلی برای این تهدید وجودی پیدا کنند، وقتی که AI از ما باهوشتر شود، «کارمان تمام است».
مزایای هوش مصنوعی و ضرورت نظارت بر آن
هشدارهای هینتون تنها شامل نکات منفی نیستند؛ او تصریح میکند که هوش مصنوعی در شناسایی آسیبها و بیماریها، هماکنون از پزشکان نیز مؤثرتر عمل میکند و این قابلیتها میتواند به طور چشمگیری به نفع بشریت باشد. با این حال، اگر این فناوری به سطحی فراتر از هوش بشر برسد و انسانها را دشمن خود بشناسد، هرگونه مزیت آن در برابر تهدیدهای ناشی از آن به طور قابل توجهی کاهش خواهد یافت. به همین خاطر، هینتون ضرورت وضع مقررات بیشتر در فرآیند توسعه این تکنولوژی و انجام تحقیقات عمیقتر برای مدیریت خطرات احتمالی را مورد تأکید قرار میدهد.
او اشاره کرد که کمپانیهای فناوری معمولاً نوآوری را با شتاب خودرو مقایسه میکنند و مقررات را به عنوان ترمز آن میدانند. اما هینتون با نظریهای متفاوت به این موضوع مینگرد و معتقد است که «مقررات، فرمان خودروست» که اطمینان میدهد نوآوری در مسیر درستی حرکت کند. خوشبختانه، هینتون و دیگر متخصصان باور دارند که هنوز برای جلوگیری از خارج شدن کنترل AI از دست بشر خیلی دیر نشده است.