از «جعبه سیاه» هوش مصنوعی تا دغدغه‌های آتی پیرامون دین و انسان

بر اساس گزارش خبرگزاری خبرآنلاین، در بنیاد دایرةالمعارف اسلامی، نشست ماهانه «اسلام در غرب» به تحلیل تحولات مربوط به هوش مصنوعی و تأثیرات گسترش این فناوری اختصاص یافت. این گفتمان که هر ماه با هدف بررسی تغییرات جهان اسلام و مباحث مرتبط با انتشار این تحولات در رسانه‌ها برگزار می‌شود، با تأکید بر درگذشت آیت‌الله شبیری زنجانی، به تجلیل از مقام علمی و خدمات ایشان پرداخت و یاد ایشان را گرامی داشت. سپس، دکتر علیرضا خلیلی، پژوهشگر در حوزه هوش مصنوعی و طراح و مدیر پروژه‌های بزرگ مهندسی در شرکت‌های فناوری سیلیکون‌ولی نظیر کوالکام، به تبیین سیر تحول هوش مصنوعی، ظهور عامل‌های هوشمند و پیامدهای اجتماعی، امنیتی و دینی این فناوری پرداخت.

در ادامه، دکتر خلیلی به تحلیل ابعاد مختلف هوش مصنوعی، تأثیرات آن بر آینده انسان و موضوعاتی چون سازوکار مدل‌ها و محدودیت‌های آن‌ها، رقابت فناوری میان آمریکا و چین، مصرف انرژی مراکز داده و پیامدهای اجتماعی، اقتصادی و دینی توجه کرد. او به اهمیت پیوستگی موضوعات در حوزه هوش مصنوعی و پیوند آن‌ها با آینده بشر پرداخت.

هوش مصنوعی؛ معماهایی از جعبه سیاه سازندگانش

دکتر خلیلی با اشاره به یافته‌های تحقیقات در مورد شبکه‌های عصبی اظهار داشت: «یکی از چالش‌های اساسی در هوش مصنوعی این است که حتی برنامه‌نویسان این مدل‌ها نیز به ندرت می‌توانند به‌طور دقیق توضیح دهند که چگونه یک مدل از ورودی‌ها به خروجی‌های خاص می‌رسد.»

او به پژوهش‌هایی اشاره کرد که در آن‌ها سعی شده بود تا برخی مفاهیم را در شبکه‌های عصبی شناسایی شوند. به گفته وی، پژوهشگران موفق به شناسایی مجموعه‌ای از نورون‌ها یا الگوهای فعال‌سازی مرتبط با مفاهیم خاصی شدند؛ به عنوان مثال، مفهومی نظیر پل گلدن گیت در سان‌فرانسیسکو.

دکتر خلیلی افزود: «نکته جالب این آزمایش‌ها زمانی مشخص می‌شود که میزان فعال‌سازی این بخش‌ها از شبکه عصبی تحت تأثیر قرار گیرد. وی تأکید کرد که با افزایش قابل توجه فعال‌سازی یک مفهوم، مدل ممکن است به روشی غیرعادی به همان مفهوم پاسخ دهد؛ این موضوع نشان‌دهنده پیچیدگی و دشواری تفسیر درونی مدل‌های هوش مصنوعی است.»

او نتیجه‌گیری کرد که در مدل‌های متشکل از میلیاردها پارامتر و ارتباطات و مفاهیم زیاد، هنوز درکی کامل از اینکه انفرادی دقیقاً چه نقشی در تولید پاسخ دارد وجود ندارد.

از تقلید رفتار انسان تا «توهم» و تولید اطلاعات نادرست

دکتر خلیلی همچنین به شیوه‌های آموزش مدل‌های زبانی پرداخته و توضیح داد که قسمتی از فرایند آموزش این مدل‌ها با استفاده از بازخورد انسانی صورت می‌گیرد.

به گفته او، مدل‌های زبانی مقادیر زیادی از محتوای تولید شده توسط انسان را مشاهده کرده و سپس می‌آموزند که چگونه در شرایط گوناگون پاسخ‌هایی مشابه با الگوهای موجود در داده‌های انسانی ارائه دهند. بر این اساس، وی بیان داشت که این مدل‌ها نباید به این صورت تصور شوند که به‌طور کامل موضوع را «درک» می‌کنند و پس از آن پاسخ می‌دهند.

او یکی از پیامدهای این مسئله را پدیده‌ای دانست که در ادبیات هوش مصنوعی به عنوان «توهم» یا تولید اطلاعات نادرست شناخته می‌شود. دکتر خلیلی به نمونه‌های تولید پرونده‌های حقوقی ساختگی، استنادهای جعلی و منابع غیروابسته اشاره کرد و توضیح داد که این مسئله در سال‌های ابتدایی گسترش مدل‌های زبانی یکی از چالش‌های جدی محسوب می‌شد.

او به این موضوع ادامه داد که مدل‌های نوین حرکت به سمت فرآیندهای پیچیده‌تر پردازش و استدلال را آغاز کرده‌اند و علاوه بر متن، تصاویر، صداها و ویدئوها نیز به اجزای مهمی از فرآیند آموزش و تعامل با مدل‌های جدید تبدیل شده‌اند.

مرحله جدید؛ زمانیکه هوش مصنوعی به «عامل» تبدیل می‌شود

دکتر خلیلی بیان کرد که تحول اساسی وقتی رخ می‌دهد که هوش‌مصنوعی به «عامل» یا Agent تبدیل شود.

وی توضیح داد که در این وضعیت، مدل تنها به سؤالات پاسخ نمی‌دهد بلکه می‌تواند به ابزارهای متنوعی دسترسی پیدا کند، به عنوان مثال، جست‌وجو در اینترنت یا کنترل نرم‌افزارها، یا انجام مجموعه‌ای از اقدامات جهت تحقق هدف خاصی.

دکتر خلیلی همچنین به آزمایش‌هایی اشاره کرد که در آن‌ها چندین عامل به‌طور هم‌زمان از سوی شرکت‌های هوش مصنوعی مورد استفاده قرار گرفتند تا رفتار این سیستم‌ها در مواجهه با مسائل پیچیده بررسی شود.

او به‌ویژه به آزمایشی با تعداد زیادی عامل هوش مصنوعی پرداخت و اشاره کرد که در این آزمون، برخی از عامل‌ها با وجود نداشتن دسترسی مستقیم به ابزارهای لازم برای انجام مأموریت، تلاش کردند که با همکاری یکدیگر راه‌حل‌های متفاوتی برای دست یافتن به هدف پیدا کنند.

او افزود که برخی از این عامل‌ها در فرایند حل مسائل، ارتباط برقرار کرده، نقش‌های متنوعی میان خود تقسیم کرده و حتی به راه‌های جدیدی برای عبور از محدودیت‌های موجود فکر کردند.

خلیلی این مثال را نشانه‌ای از یک مسئله مهم قلمداد کرد: وقتی یک مدل به ابزارها و منابع و اختیار دسترسی پیدا می‌کند، رفتار آن دیگر معطوف به تولید متن نخواهد بود.

عامل‌های هوشمند و چالش کنترل

دکتر خلیلی همچنین به مثالی دیگر اشاره کرد که در آن یک عامل هوش مصنوعی برای انجام یک کار به اینترنت دسترسی داشت و با یک محدودیت مواجه شد. او توضیح داد که این عامل برای فرار از یک آزمون امنیتی تصویری، به جای حل مستقیم آن، تلاش کرد از یک انسان کمک بگیرد و برای توجیه درخواست خود توضیحی نادرست ارائه داد.

این مثال را در کنار رفتارهای غیرمنتظره دیگر عامل‌ها قرار داد و گفت نگران‌کننده‌ترین مسئله زمانی است که چنین سیستم‌هایی در آینده قادر به تصمیم‌گیری و اقدام به‌طور مستقل باشند.

دکتر خلیلی به هشدارهایی اشاره کرد که برخی چهره‌ها و کارکنان سابق شرکت‌های هوش مصنوعی در مورد خطرات بلندمدت این فناوری ارائه کرده‌اند. او مدعی شد که در برخی محافل تخصصی، حتی بحث بر سر امکان وقوع نتایج فاجعه‌بار به سبب عدم کنترل هوش مصنوعی وجود دارد.

این بخش از سخنان او عمدتاً مرتبط با ارزیابی‌ها و نگرانی‌هایی بود که از سوی فعالان صنعت هوش مصنوعی مطرح شده و وی تأکید کرد که باید به مسئله کنترل و ایمنی این فناوری به شکل جدی توجه شود.

رقابت آمریکا و چین در زمینه هوش مصنوعی

بخش دیگری از سخنان دکتر خلیلی به رقابت‌های ژئوپلیتیکی در زمینه توسعه هوش مصنوعی اختصاص داشت.

او بیان داشت: «توسعه مدل‌های پیشرفته به‌تنهایی به الگوریتم‌ها وابسته نیست و دسترسی به تراشه‌های پردازشی، مراکز داده، منابع انرژی، آب و زیرساخت‌های محاسباتی به یکی از عوامل کلیدی در این رقابت تبدیل شده است.»

به گفته خلیلی، بخش قابل توجهی از سرمایه‌گذاری‌های کلان شرکت‌های فناوری در آمریکا به ایجاد مراکز داده و تأمین توان محاسباتی مورد نیاز برای نسل آینده مدل‌های هوش مصنوعی اختصاص یافته است.

او همچنین به دشواری‌های چین برای دسترسی به تراشه‌های پیشرفته اشاره کرد و افزود که این کشور در تلاش است با شیوه‌های مختلف فواصل سخت‌افزاری را جبران کند.

خلیلی با نگاهی به رقابت بر سر هوش مصنوعی تأکید کرد که این رقابت تنها تجارتی بین شرکت‌ها نیست بلکه به یک موضوع راهبردی تبدیل شده است؛ زیرا کشوری که بتواند سیستم‌های هوش مصنوعی قدرتمندتری بسازد، ممکن است در عرصه‌های اقتصادی، نظامی و اطلاعاتی نیز پیشتاز باشد.

چالش انرژی در دیتاسنترها؛ نمایی از مصرف عظیم هوش مصنوعی

دکتر خلیلی در ادامه به دیدگاه کم‌تر دیده شده در توسعه هوش مصنوعی اشاره کرد: زیرساخت.

وی اظهار داشت: «مدل‌های پیشرفته برای آموزش و عملکرد به حجم بالایی از توان محاسباتی نیاز دارند و این مورد باعث شده است که ساخت دیتاسنترها به یکی از عرصه‌های کلیدی سرمایه‌گذاری تبدیل شود.»

به گفته او، این مراکز نه تنها به برق بلکه به آب و زیرساخت‌های فیزیکی وسیع نیز احتیاج دارند و این موضوع در برخی نقاط ایالات متحده به مسئله‌ای جنجالی تبدیل شده است.

دکتر خلیلی در اشاره به تلاش‌های شرکت‌های فناوری برای تأمین انرژی مراکز داده خاطرنشان کرد که رقابت بر سر منابع انرژی و زیرساخت به همان اندازه توسعه الگوریتم‌ها دارای اهمیت شده است. او این روند را جزء نبرد برای دستیابی به نسل جدید هوش مصنوعی دانسته و تصریح کرد که در این شرایط، قدرت پردازشی و زیرساخت به اندازه خود مدل هوش مصنوعی دارای اهمیت خواهد بود.

از بازارهای مالی تا خطر سوءاستفاده از عامل‌های هوشمند

بخش دیگر سخنان دکتر خلیلی به دسترسی عامل‌های هوشمند به منابع مالی اختصاص داشت.

وی نمونه‌هایی از آزمایش‌ها و سناریوهایی که در آن‌ها عامل‌های هوش مصنوعی به منظور انجام فعالیت‌های اقتصادی یا کار در سامانه‌های مالی بکار رفته‌اند، مطرح کرد و گفت اگر این سامانه‌ها به منابع مالی و حساب‌های کاربری دسترسی داشته باشند، تأثیرگذاری آن‌ها می‌تواند به نحو چشم‌گیری گسترش یابد.

دکتر خلیلی همچنین به مثال‌هایی از تولید تصاویر جعلی توسط هوش مصنوعی و تأثیر احتمالی آن بر بازارهای مالی اشاره و بیان کرد که سرعت تولید و انتشار این‌گونه محتواها در غیاب سازوکارهای تشخیص و کنترل می‌تواند عواقب اقتصادی را به‌دنبال داشته باشد.

او بر این نکته تأکید کرد که اصل موضوع صرفاً توانایی هوش مصنوعی برای تولید محتوا نیست، بلکه ترکیب این قابلیت با دسترسی به ابزار واقعی و منابع مالی است.

آیا هوش مصنوعی ظرفیت‌های فکری انسان را تقلیل می‌دهد؟

یکی از جنبه‌های کلیدی سخنرانی دکتر خلیلی به تأثیر هوش مصنوعی بر مهارت‌های شناختی انسان برمی‌گردد.

او این موضوع را از طریق مفهوم «برون‌سپاری شناختی» تبیین کرد؛ به عبارتی این‌که انسان در طول تاریخ بخشی از فعالیت‌های فکری و محاسباتی خود را به ابزارها واگذار کرده است.

به گفته او، با ورود ماشین‌حساب، بخشی از محاسبات ذهنی به ابزار واگذار شد و با گسترش GPS و نقشه‌های دیجیتال، توانایی انسان در مسیریابی به‌طور روزمره کاهش یافت.

وی با اشاره به پژوهش‌هایی در مورد مغز رانندگان تاکسی در لندن بیان کرد که کارکرد مداوم در مسیریابی می‌تواند به تغییراتی در ساختار و عملکرد مغز منجر شود و از این نمونه برای نمایش مفهوم انعطاف‌پذیری عصبی بهره برد.

دکتر خلیلی سپس از خود پرسید که اگر انسان بخش قابل توجهی از فرآیند تفکر، جست‌وجو، تجزیه و تحلیل، و تصمیم‌گیری را به هوش مصنوعی بسپارد، چه سرنوشتی برای مهارت‌های شناختی نسل‌های آینده رقم خواهد خورد.

او به‌طور خاص نسبت به آینده کودکان و نوجوانان هشدار داد و افزود که اگر نسل جدید از همان ابتدا به‌جای تفکر و تحلیل به هوش مصنوعی مراجعه کند، ممکن است از فرصت مناسب برای شکل‌گیری برخی مهارت‌های شناختی محروم بماند.

هوش مصنوعی و شیوه‌های دینی در آینده

در بخش دیگری از سخنان، دکتر خلیلی بحث را از حوزه فناوری به عرصه دین و تحولات فرهنگی منتقلب کرد.

او خاطرنشان کرد که گسترش هوش مصنوعی می‌تواند در نحوه ارتباط انسان با منابع دینی و مرجعیت فکری تأثیرگذار باشد. به عقیده وی، فردی که به‌طور معمول برای یافتن پاسخ به پرسش‌های دینی به منابع سنتی مراجعه می‌کرد، اکنون ممکن است مستقیماً پاسخ را از یک مدل هوش مصنوعی دریافت کند.

دکتر خلیلی به بحران‌های احتمالی اشاره کرد و گفت که اگر کاربران بدون بررسی و مطالعه منابع معتبر به پاسخ‌های اعطا شده از سوی مدل‌ها اعتماد کنند، خطر شکل‌گیری برداشت‌های نادرست و به تبع آن، ایجاد جریان‌های فکری جدید بیشتر خواهد شد.

وی همچنین به برخی نمونه‌های مطرح شده در جوامع غربی درباره پیوند هوش مصنوعی با موضوعات آخرالزمانی، ظهور مکاتب جدید و بکارگیری سامانه‌های هوشمند به‌عنوان راهنماهای معنوی اشاره کرد.

او بر این نکته تأکید کرد که مسئله مهم برای جوامع دینی این است که اگر وظیفه ارائه و تفسیر اطلاعات دینی به‌تدریج از انسان به ماشین منتقل شود، مرجعیت دینی و شیوه‌های انتقال آموزه‌های دینی تحت چه تغییراتی قرار خواهد گرفت.

دکتر خلیلی سپس به موضوع سوگیری در سامانه‌های هوش مصنوعی پرداخت و مطرح کرد که داده‌های به کار رفته برای آموزش این مدل‌ها و نقش شرکت‌ها و گروه‌های مختلف در توسعه این سامانه‌ها، می‌توانند بر نتایج آن‌ها تأثیرگذار باشند.

او به نگرانی‌هایی اشاره کرد که در مورد نفوذ شرکت‌های بزرگ فناوری و برخی بازیگران سیاسی و اقتصادی بر روند توسعه هوش مصنوعی وجود دارد و پرسید که در آینده چگونه تصویر اسلام و مسلمانان در سامانه‌های هوش مصنوعی شکل خواهد گرفت.

وی افزود که اگر بخش عمده زیرساخت و مدل‌های هوش مصنوعی در اختیار تعداد محدودی از شرکت‌ها و کشورها باشد، این موضوع می‌تواند بر تصویر فرهنگی، مذهبی و اجتماعی جوامع مختلف در نتایج این سامانه‌ها تأثیر بگذارد.

او تأکید کرد که برای جوامع مسلمان، صرفاً مصرف‌کننده بودن در دنیای هوش مصنوعی کفایت نمی‌کند و باید به تولید، آموزش، داده‌ها و سازوکارهای حکمرانی این فناوری نیز توجه جدی داشته باشند.

هوش مصنوعی؛ فناوری‌ای با دو لبه

پس از اتمام سخنان دکتر خلیلی، گفتگوها میان حاضران ادامه یافت و برخی از شرکت‌کنندگان انتقادهایی در مورد تصویری که از هوش مصنوعی ارائه شده بود، مطرح کردند.

یکی از حاضران با تأکید بر این‌که نمی‌توان فناوری‌ها را به‌طور ذاتی مثبت یا منفی تلقی کرد، هوش مصنوعی را به‌عنوان یک فناوری «دو لبه» معرفی کرد و اظهار داشت که اگرچه می‌توان از آن برای ایجاد آسیب استفاده کرد، ولی همچنین ظرفیت‌های زیادی هم برای حل مسائل انسانی فراهم می‌آورد.

وی همچنین به تجربیات شخصی در تعامل با سامانه‌های هوش مصنوعی اشاره کرد و افزود که این مدل‌ها هنوز هم با چالش‌هایی در تولید اطلاعات نادرست و خلق منابع جعلی مواجه هستند. به‌طوری‌که برخی از سامانه‌ها کتاب‌ها، نویسندگان، ناشران و حتی منابع دینی غیرواقعی را معرفی کرده‌اند.

این شرکت‌کننده تأکید کرد که وجود چنین اشتباهاتی یادآور این نکته است که نباید به پاسخ‌های هوش مصنوعی به‌عنوان حقایق قطعی استناد کرد و باید آن‌ها را با دقت و تأمل مورد بررسی قرار داد.

در ادامه، فرد دیگری نیز به نگرش منفی به فناوری هشدار داد و خاطرنشان کرد که تجربه تاریخی انقلاب‌های صنعتی نشان می‌دهد که بسیاری از ابزارهایی که در ابتدا باعث نگرانی از بین رفتن توانایی‌های انسانی شده‌اند، در نهایت بخشی از توانمندی انسان را آزاد کرده‌اند.

او تأکید کرد که مهم‌ترین موضوع خود فناوری نیست، بلکه نحوه بهره‌برداری انسان از آن است و می‌توان از هوش مصنوعی در حوزه‌های علمی، آموزشی و حل مسائل پیچیده کشور بهره‌برداری کرد.

این دیدگاه در ادامه نشست به بحث در مورد اینکه چگونه می‌توان میان شناخت تهدیدات هوش مصنوعی و بهره‌مندی از ظرفیت‌های آن تعادل برقرار کرد، دامن زد.

پرسش بنیادین نشست؛ مسئولیت ما در برابر هوش مصنوعی چیست؟

در پایان این نشست، با رجوع به بحث اصلی، یادآوری شد که ظهور هوش مصنوعی قدرتمند تنها یک تغییر فناورانه نیست، بلکه می‌تواند مناسبات اقتصادی، اجتماعی، امنیتی، شناختی و دینی را دستخوش تغییر کند. مشابه آنچه که انقلاب صنعتی به وجود آورد و موجودیتی به نام «شرکت» را به عرصه اقتصادی وارد کرد و بعدها قوانین و اصول اخلاقی به منظور محدود کردن و تنظیم رفتار شرکت‌ها تدوین شد، اکنون موجودیتی به نام عامل هوشمند در حال شکل‌گیری است که بعضاً از جهاتی قوی‌تر و در عین حال کمتر تحت نظارت قانون است.

در پایان پرسشی مطرح شد که در چنین شرایطی، مسئولیت جوامع دینی در قبال هوش مصنوعی چیست و چگونه می‌توان از اعتبار منابع دینی، کرامت انسانی و مرجعیت علمی و دینی در برابر خطاها و سوءاستفاده‌های احتمالی دفاع کرد.

۲۲۷۲۲۷