هوش مصنوعی بشریت را نابود میکند؟ / واقعیتیهای ناگفته!
فرارو- در روزگاری که اخبار از هوشهای مصنوعی سرکش و احتمال نابودی بشر سخن میگویند؛ بررسیهای دقیقتر نشان میدهد ترس از فرا رسیدن آخرالزمان به دست هوش مصنوعی بیشتر یک راهبرد تبلیغاتی و گمراهکننده است.
به گزارش فرارو به نقل از وال استریت ژورنال، در سالهای اخیر، بخش عمدهای از فعالیتهای رسانهای و پژوهشی به تبیین فرصتهای هوش مصنوعی و چگونگی بهرهگیری از آن در زندگی و محیط کار اختصاص داشته است. با این حال، در ماههای اخیر جهت پرسشهای افکار عمومی به کلی تغییر کرده است؛ مردم دیگر کمتر درباره شیوههای استفاده از این ابزارها میپرسند و در عوض، مدام این سوال را مطرح میکنند که آیا باید از هوش مصنوعی ترسید و آیا واقعا آخرالزمان به دست این فناوری در راه است؟
پاسخ به این نگرانی دو وجه دارد. از یک سو، سرعت سرسامآور توسعه مدلهای هوش مصنوعی و نبود قوانین و مقررات کارآمد برای مهار آن، به راستی نگرانکننده است و شنیدن اینکه بازیگران اصلی این صنعت بر سر احتمال انقراض جمعی بشر شرطبندی میکنند، آرامش خاطر را سلب میکند.
اما از سوی دیگر، آیا چشمانداز نابودی بشریت به دست هوش مصنوعی خواب را از چشمان انسان آگاه میرباید؟ قطعا خیر. گفتمان آخرالزمانی پیرامون هوش مصنوعی در بنیاد خود گمراهکننده و ضدتولید است؛ چرا که این ادعاها مبتنی بر گمانهزنی، منفعتطلبی، بزرگنمایی نامتناسب و خارج از بافت واقعی هستند. بدتر از آن، این فضای رعبآور دقیقا در لحظهای که نیازمند مشارکت همگانی برای تصمیمگیری درباره نحوه ساخت، حکمرانی و استفاده از هوش مصنوعی هستیم، شهروندان عادی را دچار احساس ناتوانی و انفعال میکند.
حدس و گمان به جای علم
برآوردهای طرفداران نظریه آخرالزمان که از احتمال ۱۰ یا ۲۰ درصدی یا حتی بیشتر برای وقوع یک رویداد انقراضی ناشی از هوش مصنوعی سخن میگویند، هیچ پایه علمی محکمی ندارند. دلیل پراکندگی و تناقض این پیشبینیها روشن است: بشر هنوز تجربه یا دادههای کافی برای ارزیابی معنادار احتمال نابودی به دست هوش مصنوعی را در اختیار ندارد. همانطور که آرویند نارایانان و سایاش کاپور، دانشمندان علوم رایانه در دانشگاه پرینستون اشاره کردهاند، پیشبینیکنندگان فاجعه هوش مصنوعی به هیچ دانش، مدرک یا مدل خاصی دسترسی ندارند که حدسهای آنها را معتبرتر از حدسهای سایر مردم کند.
به بیان دیگر، تمام این تیترهای جنجالی بر پایه حدس و گمان بنا شدهاند و بیش از آنکه از آینده خبر دهند، درباره ذهنیت افرادی که این حدسها را میزنند افشاگری میکنند. بسیاری از افراد دقیقا به این دلیل جذب حوزه هوش مصنوعی شدهاند که آن را ابزاری فوقالعاده قدرتمند میبینند و برخی از آنها لزوما با آیندهای که تحت سلطه این فناوری باشد مخالف نیستند. افزون بر این، این کارشناسان تماشاگران بیطرفی نیستند؛ بلکه همان کسانی هستند که در حال ساختن این آیندهاند. اما این آیندهای است که همگان باید قدرت شکل دادن به آن را داشته باشند و این امر زمانی محقق میشود که با تردید و نگاه نقادانه به پیشبینیهای ترسآور بنگریم.
در برابر تمام هیاهوها درباره هوش مصنوعی خارج از کنترل، راههای منطقی و عملی فراوانی برای مهار این خطرات وجود دارد. بشریت پیشتر نیز با تهدیدهای فناوری روبهرو شده و از طریق مذاکره به جهانی امنتر دست یافته است. یک توافق چندجانبه میتواند با توقف موقت و گسترده در آموزش مدلهای جدید آغاز شود؛ فرآیندی که هم منابع عظیمی مصرف میکند و هم منشأ بزرگترین خطرات است.
همچنین این توافق باید شامل استانداردهای سختگیرانهای باشد که شرکتها را در قبال ایمنی مدلها و کاربران پاسخگو کند و از ضمانت اجرایی و بودجه کافی برخوردار باشد. اگر بتوانیم سرعت توسعه را کاهش دهیم و همزمان سرمایهگذاری در ایمنی را افزایش دهیم، به قانونگذاران، شهروندان و صاحبان کسبوکار فرصت میدهیم تا خود را با شرایط وفق دهند و آینده این فناوری را از انحصار چند چهره شاخص در سیلیکونولی خارج کنند.
ناتوانی انسان در سنجش خطر
دلیل دیگری که نباید بیش از حد نگران انقراض به دست هوش مصنوعی بود، به روانشناسی انسان در ارزیابی خطر بازمیگردد. پیشبینیهای هولناک به یک راهبرد تبلیغاتی موثر برای داغ نگه داشتن بازار هوش مصنوعی تبدیل شدهاند، زیرا ذهن انسان در سنجش ریسک غیرمنطقی عمل میکند. ما تمایل داریم به خطرات هیجانانگیز و دراماتیک توجه بسیار بیشتری نشان دهیم تا رویدادهای عادی اما با احتمال وقوع بسیار بالاتر.
به همین دلیل است که از سقوط هواپیما، اصابت صاعقه یا خارج شدن قطار از ریل وحشت داریم، در حالی که احتمال مرگ بر اثر تصادف رانندگی حدود یک در صد است و بسیاری از افراد از ترس پرواز، مسافتهای طولانی را با خودرو طی میکنند. پیشگوییهای مربوط به نابودی به دست هوش مصنوعی نیز زنگ خطری درونی را به صدا درمیآورند که ارزیابی منطقی مزایا و معایب این فناوری بزرگ و جدید را دشوار میسازد.
علاوه بر این، هوش مصنوعی ریسکی است که ارزش پذیرفتن را دارد؛ زیرا تهدیدهای بسیار فوریتر و قابل اندازهگیریتری وجود دارند که این فناوری میتواند در حل آنها به ما کمک کند. ما هماکنون شاهد پیامدهای همهگیریهای بیماری، مقاومت آنتیبیوتیکی و تغییرات اقلیمی هستیم. کارشناسان احتمال میدهند طی ۲۵ سال آینده شاهد یک همهگیری جدید در مقیاس کووید-۱۹ باشیم و در همین بازه زمانی، باکتریهای مقاوم به دارو جان بیش از ۳۹ میلیون نفر را بگیرند.
همچنین جابهجاییهای گسترده جمعیت ناشی از بلایای طبیعی و گرمای شدید زمین در پیش است. هوش مصنوعی با تسریع پژوهشهای پایه میتواند به کشف واکسنها و درمانهای جدید برای بیماریهایی منجر شود که سالانه میلیونها قربانی میگیرند و حتی از طریق نظارت دقیقتر، خطر وقوع جنگ هستهای را کاهش دهد.
خطرات واقعی و ملموس امروز
در واقع، به جای نگرانی درباره سناریوهای تخیلی، باید بر آسیبهایی تمرکز کرد که هماکنون قابل مشاهده و اندازهگیری هستند؛ آسیبهایی مانند «برونسپاری شناختی» و تمایل ما به واگذاری قضاوت انسانی در برابر پاسخهای قاطع و به ظاهر معتبر هوش مصنوعی، یا تأثیر گسترده اتوماسیون و نظارت هوشمند بر بازار کار. همچنین نباید از نحوه تقویت اقتدارگرایی و تضعیف دموکراسی از طریق استخراج انبوه اطلاعات شهروندان، انفجار اطلاعات نادرست تولیدشده با هوش مصنوعی و فرسایش رسانههای مستقل غافل شد.
راه حل مقابله با تمام این آسیبها یکسان است: قانونگذاری جامع برای کل صنعت هوش مصنوعی و ملزم کردن شرکتها به تخصیص بودجه و منابعی در بخش ایمنی که همتراز با هزینههای ساخت مدلها، بازاریابی و احداث مراکز داده باشد.
نگرش آخرالزمانی و مقاومت مطلق در برابر هوش مصنوعی در ظاهر متضاد به نظر میرسند، اما هر دو بر یک پیشفرض اشتباه استوارند: اینکه مسیر حرکت هوش مصنوعی اجتنابناپذیر است و نقش ما تنها ترسیدن یا کنار کشیدن است. در حالی که ما همچنان انتخابهای فراوانی داریم و گزینه ما محدود به ساختن پناهگاه زیرزمینی یا کشیدن دوشاخه برق نیست. ما میتوانیم هدایت هوش مصنوعی را به دست بگیریم و از آن برای ساختن آیندهای بهتر استفاده کنیم؛ آیندهای که در آن نه تنها از آسیبهای این فناوری در امان میمانیم، بلکه سایر خطرات فاجعهبار پیش روی بشریت را نیز مهار میکنیم.