هوش مصنوعی در انتخاب اهدای کلیه چه کسانی را در نظر میگیرد؟ / نقص قابل توجه هوش مصنوعی در تصمیمگیریهای پزشکی پرمخاطره
به نقل از خبرآنلاین و یورونیوز، یک تحقیق تازه به بررسی تفاوتهای موجود در شیوههای تصمیمگیری و اولویتبندی میان پزشکان و مدلهای زبانی مبتنی بر هوش مصنوعی پرداخته است. پژوهشگران اذعان دارند که هنگام اتخاذ تصمیم در خصوص بیماران واجد شرایط برای پیوند، این مدلها به طرز مشهودی اعتماد به نفس بیش از حدی از خود نشان میدهند، به عوامل جانبی اهمیت میدهند و برای تصمیمگیریهای پیچیده، سادهسازی میکنند.
پژوهشگران دانشگاه ایالتی پنسیلوانیا در آمریکا، سناریوهای فرضی را که بر اساس دادههای موجود از مطالعات انسانی انجام شده در خصوص تخصیص کلیه تدوین شده بودند، در اختیار مدلهای زبانی بزرگ قرار دادند؛ این سناریوها مشابه موقعیتهایی بودند که شرکتکنندگان واقعی پیشتر در آنها انتخابهایی انجام داده بودند.
هر یک از این سناریوها شامل دو بیمار به نامهای بیمار الف و بیمار ب بود که هر دو واجد شرایط برای دریافت کلیه موجود بودند و ویژگیهای آنها بر اساس سن، وضعیت پزشکی و عادات نوشیدنی تعریف میشد. تصمیمگیرنده میبایست یکی از این دو بیمار را برای دریافت کلیه انتخاب کند.
در حالی که پاسخدهندگان انسانی اهمیت زیادی به سن قائل شدند و تمایل داشتند بیماران جوانتر را به سالمندان ترجیح دهند، تعداد زیادی از مدلها به جای سن، بیشتر به مقدار الکل مصرفی بیماران توجه میکردند. در مقایسه، تصمیمات انسانی به عوامل چندگانه وابسته بودند و این در حالی است که مدلهای زبانی عمدتاً بر یک ویژگی خاص متمرکز میشدند.
هادی حسینی، محقق سرپرست این مطالعه در دانشگاه ایالتی پنسیلوانیا، تصریح کرد: «اولین نکته این است که چتباتهای هوش مصنوعی در نحوه ارزیابی ویژگیهای بیماران معمولاً از ارزشهای انسانی دور میشوند. آنها معمولاً تنها بر روی یک عامل، مثل عادات نوشیدنی، متمرکز میگردند و برخلاف انسانها قادر به در نظر گرفتن چند جنبه به طور همزمان نیستند.»
پژوهشگران همچنین دریافتند که هوش مصنوعی معمولاً در تصمیمگیری دچار تردید نمیشود. بر خلاف انسانها که وجود پاسخهای واضح و واحد را نمیپذیرند و تصمیمگیریهای آنها میتواند تحت تأثیر ملاحظات اخلاقی قرار گیرد، این سیستمها غالباً بر یک گزینه مشخص قفل میشوند.
جان دیکرسون، مدیرعامل Mozilla.ai که در این پژوهش مشارکت داشته، اظهار داشت: «در هنگام تخصیص منابع نادر، چه آن کلیه باشد، چه فرصت شغلی یا دسترسی به منبع دیگر، هیچگاه یک پاسخ واحد و عینی درست وجود ندارد. انسانها این ابهام را دستکم از طریق بحثهای آزاد در فرایند تخصیص درک کرده و مورد توجه قرار میدهند، در حالی که مدلهای هوش مصنوعی غالباً از این روش غافل میشوند.»
پژوهشگران در سناریوهای خطرناک یادآور شدند که تصمیمات علاوه بر دقت، باید همخوانی با ارزشهای انسانی و داوریهای اخلاقی را نیز مد نظر قرار دهند.
آنها مطرح کردند که پرسش پیرامون این که آیا هوش مصنوعی توانایی اتخاذ تصمیمات اخلاقی را دارد یا خیر و این که آیا این تصمیمات مطابق با ارزشهای انسانی هستند، جزء مباحث مهم امروزی در زمینه هوش مصنوعی به شمار میرود.
حسینی بر این نکته تأکید کرد: «پیامدهای اخلاقی این موضوع به شدت جدی است و نیاز به تفکر عمیق در مورد نقش هوش مصنوعی در چنین تصمیمات سرنوشتسازی دارد. تصمیمات اخلاقی در زمینههای نظیر تخصیص عضو میتواند به طور مستقیم تعیینکننده زندگی و مرگ افراد باشد، لذا تعریف درست نقش هوش مصنوعی در این زمینه نمیتواند امری اختیاری باشد.»
وی افزود: «با این وجود، ما قصد نداریم که استفاده از هوش مصنوعی را به عنوان جایگزینی برای قضاوتهای حرفهای در تصمیمگیریهای پزشکی یا سایر زمینههای حساس تشویق کنیم، اما درک رفتار این سیستمها به یک ضرورت تبدیل شده است، زیرا افراد، نهادها و شرکتها به طور فزایندهای به این فناوری برای اتخاذ تصمیمات یا دریافت مشاوره تکیه میکنند.»
۵۸۵۸