چای برای بریتانیاییها و پلیس برای پاکستانیها / جنجالی که هوش مصنوعی گوگل ایجاد کرد
طبق گزارش خبرآنلاین و به نقل از یورونیوز، اگر از هوش مصنوعی گوگل بپرسید که چه کارهایی باید انجام دهید وقتی که تنها با یک نروژی هستید، احتمالاً به شما پیشنهاد میکند که شروع به گفتگو کنید. اما اگر همان سؤال را درباره یک فرد سومالیایی مطرح کنید، ممکن است شما را به تماس با پلیس راهنمایی کند.
کاربران اینترنت از تاریخ ۲۳ اوت با وارد کردن عبارات متفاوتی بهصورت «من تنها هستم با...» و اضافه کردن ملیتهای متفاوت، این الگو را در قابلیت جستوجوی «AI Overviews» گوگل آزمایش کردهاند.
نتایج بهدستآمده بسته به کشور یا گروه ذکرشده تفاوتهای چشمگیری را نشان میدهد و همین موضوع باعث بروز اتهاماتی مبنی بر جانبداری نژادی شده که بهطرز گستردهای در رسانههای فرانسوی منعکس گشته است.
بر اساس آزمایشهایی که توسط وبسایتها انجام شده، در مورد پرسش مربوط به تنها بودن با یک بریتانیایی، جمینی پیشنهاد کرده است که یک فنجان چای تهیه کنید. اما در مقابل، زمانی که نام فردی با اصالت هندی یا پاکستانی ذکر شده، این سیستم تماس با شمارههای اضطراری را توصیه کرده است.
مقایسهای که بین ایتالیایی و الجزایری انجام شد، برای نخستین بار توسط کمدین فرانسوی آلیسیا سِ ت تو مطرح گشت که در تاریخ ۲۳ اوت ویدیویی از این گفتگو را در اینستاگرام منتشر کرد.
در مقایسه سوالی که مربوط به یک ایتالیایی بود، پاسخی حاکی از «جذابیت» و «گفتوگوی شاداب» ارائه شد، در حالی که همان پرسش در مورد یک الجزایری به کاربر میپرسید که آیا احساس «خطر» میکند و شماره پلیس و سیستمهای هشدار پیامکی را پیشنهاد میکرد.
با این حال، تمامی نتایج بهدستآمده الگوهای مشابهی را دنبال نکردند. طبق گزارشی از هافپست، زمانی که یکی از کاربران عبارت «من تنها هستم با یک هیتیایی» را جستوجو کرد، جمینی به او پاسخ داد: «ملیت یا اصالت اهمیت ندارد؛ شما در واقع تنها با یک انسان دیگر در ارتباط هستید.»
روباتهای گفتگوگر همچون جمینی، چتجیپیتی و کلاود بر مبنای حجم گستردهای از متنها که از اینترنت جمعآوری شدهاند، آموزش دیدهاند؛ از آرشیوهای خبری گرفته تا انجمنهای آنلاین و شبکههای اجتماعی. متخصصانی که به بررسی سوگیریهای هوشمصنوعی میپردازند، معتقدند وقتی که یک کلیشه به دفعات در دادههای آموزشی تکرار میشود، احتمال بالایی وجود دارد که مدل به بازتولید آن بپردازد، حتی بدون اینکه بهطور خاص برای این منظور برنامهریزی شده باشد.
5858