بر طبق گزارش خبرگزاری خبرآنلاین، فناوری‌های هوش مصنوعی قادرند حجم وسیعی از داده‌ها را در زمانی بسیار کوتاه پردازش کرده و الگوهای خاصی را شناسایی کنند که برای انسان‌ها ممکن است دشوار باشد. با این حال، قدرت پردازش داده‌ها هیچ ارتباطی با درک عمیق از جهان، شناخت تجربیات انسانی یا همواره صحیح بودن پاسخ‌ها ندارد.
آگاهی از محدودیت‌های هوش مصنوعی به ما می‌آموزد که در چه مواردی می‌توان از آن بهره‌برداری کرد، زمان‌هایی که نیاز به بازبینی پاسخ‌های آن داریم و در شرایطی که تصمیم‌گیری نهایی باید بر عهده انسان باشد.
۱. درک زمینه و مفاهیم انسانی
مدل‌های هوش مصنوعی توانایی پردازش زبان انسان را دارند و می‌توانند پاسخی طبیعی و با انسجام به گفتگو ارائه دهند؛ اما این توانایی معادل با درک انسانی نیست. یک مدل ممکن است توصیف دقیقی از احساساتی مثل غم، ترس یا گرسنگی ارائه دهد، اما این بدان معنا نیست که خودش این احساسات را تجربه کرده است.
تشخیص کنایه‌ها، طنز، اصطلاحات محلی و جنبه‌های فرهنگی گاهی برای این سیستم‌ها دشوار است. برای نمونه، جمله «عالی شد! دقیقاً همین را کم داشتم!» ممکن است در یک موقعیت نمایانگر رضایت باشد و در موقعیتی دیگر به عنوان ابراز نارضایتی یا طعنه تلقی گردد. اگر سیستم زمینه مکالمه را به درستی درک نکند، ممکن است از گوینده مفهوم اشتباهی برداشت کند.
این محدودیت در شرایطی که درک نیت افراد یا شرایط اجتماعی برای تصمیم‌گیری ضروری است، بیشتر اهمیت پیدا می‌کند.
۲. وابستگی به کیفیت داده‌ها
عملکرد هوش مصنوعی به شدت به داده‌هایی بستگی دارد که بر اساس آن‌ها آموزش دیده یا در طول استفاده دریافت می‌کند. اگر این داده‌ها ناقص، قدیمی، نادرست یا نامتوازن باشند، خروجی سیستم نیز احتمالاً دچار مشکل خواهد شد.
مدلی که با نمونه‌های گذشته آموزش دیده، ممکن است در شرایط جدید یا متفاوت عملکرد ضعیف‌تری داشته باشد. برای مثال، الگوی موفق در یک کشور یا گروه اجتماعی الزماً برای جامعه‌ای دیگر کارایی نخواهد داشت.
به همین خاطر، ارزش‌گذاری کیفیت داده‌ها، آزمایش عملکرد سیستم در شرایط مختلف و نظارت انسانی می‌تواند به کاهش خطاها کمک نماید.
۳. سوگیری الگوریتمی
اگر داده‌های آموزشی نمایانگر تبعیض‌ها یا نابرابری‌های اجتماعی باشند، سیستم ممکن است همان الگوها را مجدداً تولید کند که به این مشکل سوگیری الگوریتمی گفته می‌شود.
به عنوان مثال، اگر سیستمی برای استخدام با داده‌های تاریخی نامتوازن آموزش ببیند، ممکن است در ارزیابی رزومه‌ها مناسب برخی گروه‌ها را بیشتر در نظر بگیرد. این نتیجه لزوماً به این معنا نیست که سیستم عامداً تبعیض می‌کند، بلکه نشان‌دهنده تأثیر انتخاب و کیفیت داده‌ها بر خروجی است.
برای کاهش احتمال چنین خطاهایی، بررسی داده‌ها، ارزیابی نتایج برای گروه‌های مختلف و فراهم کردن امکان بازبینی انسانی از جمله استراتژی‌های مؤثر می‌باشد.
۴. تولید اطلاعات نادرست
مدل‌های زبانی گاه ممکن است پاسخی را تولید کنند که از لحاظ نگارشی منطقی و قانع‌کننده باشد اما در واقع، نادرست باشد. این خطا می‌تواند به صورت آمار نادرست، نقل‌قول ناصحیح، منابع نامعتبر یا توضیحات علمی نادرست بروز کند.
تنها روانی یک پاسخ نشانه‌ای از صحت آن نیست. در صورتی‌که قرار باشد از خروجی هوش مصنوعی در گزارش‌های خبری، تحقیقات، کارهای تخصصی یا تصمیمات کلیدی بهره گرفته شود، ضروری است که، اطلاعات بنیادی با منابع معتبر و مستقل مورد راستی‌آزمایی قرار گیرد.
۵. محدودیت در خلاقیت
فناوری‌های هوش مصنوعی قابلیت تولید شعر، داستان، تصویر، موسیقی و طرح‌های گرافیکی را دارند. این توانایی می‌تواند در بسیاری از زمینه‌ها موثر باشد، اما تولید یک خروجی نوین با تجربه انسانی از خلاقیت هم‌ارز نیست. سامانه بر پایه الگوهایی که آموخته، محتوایی جدید می‌سازد، اما این عمل به تنهایی نشانگر وجود تجربه زیسته، نیت هنری یا فهم شخصی نیست.
ارزیابی خلاقیت همچنین به معیارهایی چون اصالت، کیفیت، کارایی و میزان دخالت انسان بستگی دارد. لذا لازم است که نقش هوش مصنوعی در خلق آثار و سهم انسان در انتخاب، ویرایش و راهبری آن به وضوح مشخص باشد.
۶. هزینه محاسباتی و مصرف منابع
آموزش و به‌کارگیری برخی مدل‌های پیشرفته نیاز به پردازنده‌های قدرتمند، منابع محاسباتی قابل توجه و زیرساخت‌های گسترده‌ای دارد. مراکز داده همچنین برای عملکرد خود احتیاج به برق و سیستم‌های خنک‌کننده دارند. میزان مصرف به عوامل مختلفی همچون اندازه مدل، نوع سخت‌افزار و تعداد درخواست‌ها بستگی دارد.
بهینه‌سازی مدل‌ها، استفاده از سخت‌افزارهای کارآمدتر و مدیریت بهینه زیرساخت‌ها می‌تواند به کاهش هزینه‌ها و تأثیرات زیست‌محیطی کمک کند. همه مدل‌ها به منابع مشابه نیاز ندارند و باید مصرف آن‌ها با توجه به نوع و شیوه استفاده بررسی شود.
۷. دشواری توضیح برخی تصمیم‌ها
توضیح برخی از سیستم‌های پیچیده می‌تواند چالش‌برانگیز باشد؛ به این معنا که ممکن است روشن نباشد که چرا یک ورودی به یک نتیجه خاص ختم شده است. به این نوع سیستم‌ها می‌توان گاهی «جعبه سیاه» گفت.
این موضوع در حوزه‌های حساس اهمیت ویژه‌ای دارد. برای مثال، تصور کنید سیستمی درخواست وام یک فرد را رد کند، اما نهاد مربوطه نتواند دلیل این تصمیم را توضیح دهد یا بررسی کند. در چنین وضعیتی، تشخیص خطا و به چالش کشیدن نتیجه به شدت دشوار می‌شود.
البته تمامی سیستم‌های هوش مصنوعی به یک میزان غیرقابل توضیح نیستند. درجه شفافیت بستگی به نوع مدل، طراحی آن و ابزارهای ارزیابی دارد. مؤسسه ملی استاندارد و فناوری ایالات متحده (NIST) نیز در راستای مدیریت ریسک هوش مصنوعی، ویژگی‌هایی همچون قابلیت اطمینان، شفافیت، توضیح‌پذیری و مدیریت سوگیری را موارد مهمی به شمار می‌آورد.
۸. محدودیت در تصمیم‌گیری اخلاقی و مسئولیت‌پذیری
هوش مصنوعی می‌تواند بر اساس قوانین و الگوهای آموخته شده گزینش‌های مختلفی را ارزیابی کند؛ اما مسئولیت استفاده از نتایج آن همچنان به عهده انسان‌ها و نهادهای مربوط است.
اگر سیستمی در روند استخدام، تخصیص منابع یا خدمات‌گیری، تصمیمی نادرست یا تبعیض‌آمیز اتخاذ کند، باید مشخص باشد که چه کسانی مسئول طراحی، نظارت و استفاده از آن بوده‌اند. در زمینه‌های حساس، ثبت فرآیند تصمیم‌گیری، امکان به چالش کشیدن و نظارت انسانی از اهمیت خاصی برخوردار است.
۹. اطلاعات قدیمی یا ناقص
اگر یک مدل به منابع به‌روز دسترسی نداشته باشد، می‌تواند درباره رویدادهای جدید، آمار به‌روز یا تغییرات قانونی اطلاعات نادرستی ارائه دهد. حتی اتصال به منابع اینترنتی نیز به تنهایی نمی‌تواند درستی اطلاعات را تضمین کند؛ چرا که منابع باید از لحاظ اعتبار و تاریخ انتشار بررسی شوند.
در موضوعات با تغییرات سریع، مانند قوانین، اخبار و اطلاعات پزشکی، مراجعه به منابع معتبر و روزآمد الزامی است.
چگونه از محدودیت‌های هوش مصنوعی آگاهانه‌تر استفاده کنیم؟
راه‌حل پیشنهادی این است که نه به خروجی‌های هوش مصنوعی کاملاً اعتماد کنیم و نه از آن‌ها به کلی دوری گزینیم. با رعایت چندین نکته، می‌توان احتمال بروز خطا و سوءاستفاده را به حداقل رساند:
- پاسخ‌های مرتبط با سلامت، قانون، امور مالی و تصمیمات مهم را با منابع معتبر بررسی نمایید.
- از هوش مصنوعی به‌عنوان ابزاری کمکی بهره ببرید و نه به عنوان مرجع نهایی برای تصمیمات حساس.
- در صورت امکان، درباره داده‌های به‌کار رفته و شیوه تصمیم‌گیری سامانه سوال کنید.
- خروجی‌ها را بنا به کاربرد مورد نظرشان ارزیابی کنید؛ خطای یک پیشنهاد سرگرمی لزوماً با خطای یک ارزیابی استخدامی پیامد یکسانی ندارد.
- در موارد حساس، امکان نظارت انسانی و حق اعتراض به تصمیمات را در نظر داشته باشید.
جمع‌بندی
هوش مصنوعی ابزاری توانمند برای پردازش داده‌ها، تولید محتوا و تقویت فرآیند تصمیم‌گیری است؛ اما ممکن است در زمینه‌هایی نادرست درک کند، اطلاعات دروغین تولید کند یا نتیجه‌ای ناعادلانه بر اساس داده‌های نامتوازن به دست آورد. مشکلاتی از قبیل هزینه‌های محاسباتی و دشواری در توضیح برخی از تصمیم‌ها نیز از جمله چالش‌های این فناوری محسوب می‌شود.
آگاهی نسبت به این محدودیت‌ها به معنای کنار گذاشتن هوش مصنوعی نیست. استفاده مؤثر از آن نیازمند ارزیابی متناسب با سطح خطر، بررسی پاسخ‌های کلیدی و الگوی مشخص مسئولیت انسان‌ها و سازمان‌هاست. هوش مصنوعی می‌تواند در بسیاری از حوزه‌ها یاری‌رسان باشد، اما در تصمیمات حیاتی، نظارت و قضاوت انسانی همواره اهمیت ویژه‌ای دارد.
57
نظرات کاربران