طبق گزارش ایسنا، خبرنگار دیجیتال ترندز در آخرین مقالهاش، به بررسی تجربه نامطلوب دوستی که دچار بیماری است، در مشورت با چتبات هوش مصنوعی «چتجیپیتی»(ChatGPT) پرداخته و دلایل بروز خطا در این زمینه را بررسی کرده است.
به نقل از دیجیتال ترندز، «ندیم سرور»(Nadeem Sarwar) خبرنگار حوزه فناوری، در گزارش خود، داستان دوست بیمار خود را که به مشاوره پزشکی از طریق چتجیپیتی پرداخته، تشریح کرده است که در ادامه به تفصیل میخوانید.
دوست ۲۴ سالهام با من تماس گرفت و از سردرد شدید و درد معدهاش شکایت داشت. او در حال حاضر تحت درمان سرطان پستان است و دو سال گذشته را با این بیماری سپری کرده است. نزدیکترین بیمارستان را پیدا کردم و او را برای معاینه به آنجا بردم.
در مسیر بیمارستان از او پرسیدم که درد از چه زمانی آغاز شده و آیا علائم دیگری هم دارد که باید نگرانکننده تلقی شوند. پاسخ او برایم بسیار غیرمنتظره بود. دوستم گفت: بعد از اینکه از محل کار برگشتم، کمی سرگیجه داشتم و احساس کردم که مشکل خاصی در رودهام وجود دارد. بنابراین از چتجیپیتی خواستم تا بگوید آیا مصرف داروی مسکن برایم مناسب است. چند ساعت پس از استفاده از داروهای مسکن، درد در ناحیه روده بدتر شد و احساس سوزش ایجاد شد و من چند بار هم استفراغ کردم.
این اعتراف واقعاً مرا متأثر کرد، اما این واقعه ناراحتکننده ابعاد زیادی دارد که مرا به تصمیمگیری برای ممنوعیت استفاده از هوش مصنوعی برای عزیزانم سوق داد؛ بهویژه زمانی که صحبت از مشاورههای مربوط به سلامتی به میان میآید. به عنوان شخصی که در برابر داروها بسیار حساس هستم و دوره درمان سرطان را میگذرانم، انتظار نمیرفت که از شخصی عاقل بخواهم که به یک هوش مصنوعی درمورد مصرف داروها مشورت کند.
من دقیقاً نمیدانم که چه کسی مسئول این رویداد ناگوار و خطرناک است. دوستم تنها از یک مسکن عکس گرفت، آن را به چتجیپیتی ارسال کرد و پرسید که آیا میتواند همزمان دو قرص مصرف کند. پزشکش فقط یک قرص را برای او تجویز کرده بود که آن هم تنها در صورت بروز درد بسیار شدید مجاز بود. چتجیپیتی به او توصیه کرد که تنها یک قرص مسکن را مصرف کند و اضافه کرد که مصرف دو قرص باید تحت نظر پزشک انجام شود.
هنگامی که از دوستم پرسیدم چرا به چتبات هوش مصنوعی اعتماد کرده، بیان کرد که دریافت پاسخ از چتجیپیتی بسیار راحتتر است. من تا حدی با مشکل او، که به دلیل جنگ با مشاغل مختلف برای حمایت از خانوادهاش مجبور به ترک تحصیل شده بود، همدردی میکردم. نمیتوانستم در آن لحظه در مورد مفاهیم سواد دیجیتال و ضرورت راستیآزمایی صحبت کنم. این چت به سختی دچار خطا بود و هر دو طرف در این موضوع مقصر هستند.
مسئله از همینجا آغاز میشود. وقتی دوستم درخواستش را به زبان هندی ترجمه کرد، به دلیل وجود تنها یک کلمه، با یک فاجعه دستوری روبهرو شد. او قصد داشت بپرسد که آیا میتواند دو قرص دارویی را که در عکس است مصرف کند، اما ترجمه نادرست او بهگونهای شده بود که انگار از چتجیپیتی میپرسد آیا میتواند هر دو دارو را همزمان مصرف کند.
اینجا بود که چتجیپیتی با مشکل مواجه شد. عکس نمایانگر یک قرص بود که فقط ترکیب شیمیایی آن شامل «دیکلوفناک» و «سراپتیوپتیداز» قابل مشاهده بود و نام دارو تنها تا حدی نمایان بود. با این حال، چتبات هوش مصنوعی درست به مسکن اشارهای مشابه «سیپزن-دی» کرد، اما پیش از آن به داروی دیگری به نام «فناک پلاس» نیز اشاره کرد که ترکیب شیمیایی آن شامل دیکلوفناک و «پاراستامول» است و او قبلاً در گفتوگوی دیگری به آن پرداخته بود.
این یک ترکیب کاملاً متفاوت است؛ اگرچه هر دو به عنوان داروهای مسکن بدون نسخه قابل دسترسی هستند. به همین دلیل، ما با یک اشتباه انسانی (در ترجمه) و دو اشکال از چتجیپیتی روبرو هستیم، زیرا این برنامه نیز دادهها را از حافظه خود گردآوری کرده بود. با این وجود توصیهاش صحیح بود.
چتبات هوش مصنوعی شرکت «اوپنایآی»(OpenAI) بصراحت هشدار داد که مصرف همزمان این دو دارو تصمیم صحیحی نیست و افزود که این عمل میتواند منجر به مصرف بیش از حد دیکلوفناک شود. همچنین عوارض جانبی را شرح داد که شامل احساس سوزش در معده، مشکلات مربوط به زخم، خونریزی و عوارض جانبی درازمدت بر کلیهها میشود.
به خاطر داشته باشید که عکسی که به چتجیپیتی ارائه شده، تنها یک مسکن را نشان میداد. همچنین، توصیه شده بود که تنها یکی از این مسکنها باید همزمان مصرف شود و نه هر دو، اما دوستم با این یادآوری که هر دو دارو در یک بازه زمانی توسط پزشکان تجویز شده بودند (اگرچه نه بهطور همزمان)، هر دو را برای تسکین سریع درد خود مصرف کرد و بهزودی با عواقب ناخوشایندی مواجه شد.
پس از اینکه دوستم به پزشک گفت که چرا همزمان از دو قرص استفاده کرده، آن پزشک از کوره در رفت و او را به خاطر عدم مشورت با متخصص بهداشت مورد مؤاخذه قرار داد. در پی آن، برای کاهش درد، آمپول به او تزریق کرد و مجدد داروهایی را تجویز کرد که برای بدن حساسش ایمن بودند.
به عنوان یک خبرنگار فناوری که در مورد خطرات تعامل با هوشهای مصنوعی در زمینههای حساس به ویژه سلامت و رفاه نوشتهام، احساس ناخوشایندی داشتم. احساس میکردم که هرگز با دوستم در مورد تهدیدات رباتهای هوش مصنوعی صحبت نکردهام و تنها پس از این رویداد هولناک بوده که به او نسبت به خطرات اخطار دادم.
زمانی که او اذعان کرد که قبلاً چندین بار دیگر هم از چتجیپیتی برای مشاوره پزشکی استفاده کرده، من تلفنش را گرفتم و برنامه را از روی آن حذف کردم. همچنین از او خواستم که هرگز برای مشاوره پزشکی به هیچ چتبات هوش مصنوعی دیگر، بهویژه «جمینای»(Gemini) و «کلود»(Claude) یا حتی تمام اینترنت مراجعه نکند. تنها گزینه واقعی، گفتگو با پزشک یا مراجعه به کلینیک است.
چتجیپیتی به عنوان یک منبع برای دسترسی سریع و بدون واسطه به اطلاعات محسوب میشود. بنابراین، ارائه هشدار و سلب مسئولیت باید در اولویت قرار گیرد. اوپنایآی ممکن است جانب احتیاط را مدنظر قرار دهد، اما درک عمومی از چتجیپیتی به سرعت در حال تغییر و تحول است.
بسیاری از کاربران، این پلتفرم را به عنوان نوعی جدید از موتور جستجو مینگرند که به مانند انسان گفتگو میکند. موارد متعددی از رباتهای هوش مصنوعی وجود دارند که توصیههای بهداشتی خطرناکی را ارائه میدهند و تحقیقات انجام شده تا سال ۲۰۲۶ نیز همچنان رفتارهای پرخطر آنها را در موضوعات حساس نمایان ساختهاند. من صرفاً امیدوارم که اوپنایآی و دیگر شرکتهای هوش مصنوعی به این نکته توجه کنند و اقدامات لازم را اتخاذ نمایند.
انتهای پیام
نظرات کاربران