فناوری خودروهای رانندگی خودکار، با وعدهای از ایمنی و کارایی بالا در حملونقل، به طرز چشمگیری در حال پیشرفت است. با این حال، تحقیقات اخیر نشان میدهد که حتی پیشرفتهترین سیستمهای هوش مصنوعی در این خودروها با چالشهای جدی视觉 در محیطهای واقعی مواجه هستند. این محدودیتها میتواند تبعات خطرناکی برای آینده این صنعت داشته باشد و لزوم توجه فوری به این معضل را نشان میدهد.
چالشهای دیداری خودروهای خودران در برابر علائم جادهای فرسوده
با وجود دستاوردهای قابل توجه در فناوری خودروهای خودران، هنوز هم نیاز است که رانندگان ایمنی (که Waymo آنها را متخصصان خودران مینامد) برای وضعیتهایی که نقص یا به خطر افتادن درک مافوق انسانی سیستم به وقوع میپیوندد، آماده عمل باشند. این موضوع اهمیت پژوهش انجامشده توسط CarBuzz را که نشان میدهد سیستمهای بصری خودروهای خودران هنوز به آمادگی کامل برای کاربردهای بدون راننده انسانی نرسیدهاند، دوچندان میکند.
آخرین مطالعه در این زمینه بهدست دو استاد دانشگاه از کشور کره جنوبی، سئونگ ته کیم از دانشگاه کیونگ هی و هونگ جو لی از دانشگاه علم و فناوری ملی سئول، انجام شده است. آنها متوجه شدند که سیستمهای بصری که در خودروهای خودران نصب شدهاند، پس از مدتها قرار گرفتن در معرض شرایط جوی، در خوانش دقیق علامتهای محدودیت سرعت با مشکلاتی روبرو هستند. این محققان چارچوبی برای شبیهسازی فرسایش طبیعی علائم ترافیکی طراحی کردند تا تاثیر این فرسایش بر سیستمهای تشخیص هوش مصنوعی را به تصویر بکشند.
تیم تحقیقاتی یک مدل تولید تصویر به تصویر را آموزش داد تا ویژگیهای بصری علائم ترافیکی سالم و آسیبدیده را بشناسد و بازسازی کند. سپس آنها علائم محدودیت سرعت سالم و خراب را چاپ کرده و از زوایا و فاصلههای مختلف و در شرایط داخلی و خارجی تصاویر آنها را برداشتند. نتایج بهدستآمده نشان میدهد که حتی در شرایط فرسایش طبیعی، این علائم همچنان میتوانند در گمراه کردن سیستمهای طبقهبندی علائم ترافیکی خودران مؤثر واقع شوند. کیم در این مورد اظهار داشت:
«توسعه یک هوش مصنوعی قابل اعتماد به مراتب فراتر از صرف بهبود عملکرد متوسط است. این امر مستلزم شناسایی مداوم نقاط ضعف سیستمهای هوش مصنوعی، درک دلایل این نقصها و به کارگیری این شناختها برای تقویت سیستمها است.»
آسیبپذیری در برابر دستکاری عمدی و پیامدهای آن
یک تحقیق دیگر که اوایل سال جاری بهدست محققان دانشگاه جان هاپکینز و دانشگاه کالیفرنیا، سانتا کروز صورت گرفت، نشان داد که سیستمهای بصری خودروهای خودران و پهپادها چگونه به تغییر عمدی نوشته روی علائم پاسخ میدهند. محققان به طور واضح دریافتند که علائم دستکاریشده میتوانند این سیستمها را گمراه کنند.
در سناریوهای رانندگی شبیهسازیشده، یک علامت جادهای دستکاریشده سبب شد خودروهای خودران آن متن تغییر یافته را بهعنوان یک دستورالعمل تفسیر کنند و علیرغم حضور عابران پیاده، به حرکت خود ادامه دهند. این واقعه بیانگر این است که خودروهای خودران هنوز از توانایی کافی برای پردازش صحیح علائمی که دچار آسیب یا تغییر عمدی شدهاند، برخوردار نیستند. در صورتی که آسیب طبیعی علائم به یک نقطهضعف در خودروهای خودران تبدیل شود، دولتهای محلی ملزم به صرف هزینههای مکرر برای تعویض علائم جهت تضمین ایمنی جادهها خواهند بود، یا باید برای شناسایی خرابکاران هوشیار باشند. محققان کرهای نیز بر این نکته تأکید کردند که «سوءتعبیر یک علامت ترافیکی میتواند به رفتارهای ناایمن منجر شود.» این مطالعه، چالش اساسی را نمایان میسازد که همواره چنین سیستمهایی با آن مواجه خواهند بود: دشواری در انطباق با ناشناختهها.