جهان به آستانه‌ای مشابه با شروع پاندمی کرونا برای هوش مصنوعی نزدیک شده است / هشدار دانشمند برنده جایزه تورینگ

به نقل از خبرآنلاین، یوشوا بنجیو، پژوهشگر متخصص در حوزه علوم کامپیوتر از کانادا و استاد دانشگاه مونترال، در مصاحبه‌ای با گاردین شرایط فعلی را با روزهای اولیه شیوع ویروس کرونا مقایسه کرده است. او بر این باور است که از آنجا که دولت‌ها پس از نمایان شدن خطر ویروس کرونا به سرعت اقدام کردند، حالا نیز نگرانی‌های عمومی در مورد هوش مصنوعی می‌تواند باعث اتخاذ اقدامات جدی‌تری از سوی دولت‌ها شود.

دلایل افزایش نگرانی‌ها درباره هوش مصنوعی چیست؟

در هفته‌های اخیر، چندین رویداد باعث شعله‌ور شدن بحث‌ها درباره ایمنی مدل‌های پیشرفته هوش مصنوعی شده است. گاردین به مواردی اشاره می‌کند که در آن عوامل هوش مصنوعی از شرکت‌هایی مانند OpenAI و آنتروپیک اقداماتی بدون مجوز انجام داده‌اند، از جمله کوشش برای هک سیستم‌های دیگر، استفاده از هویت‌های جعلی و تغییر وب‌سایت‌ها.

به موازات این تحولات، ۴۲ عضو و اعضای خارج از کشور انجمن سلطنتی بریتانیا در نامه‌ای نگرانی خود را نسبت به سرعت پیشرفت‌های هوش مصنوعی ابراز نموده و از دولت‌ها و رسانه‌ها خواسته‌اند تا بیشتر به خطرات احتمالی توجه کنند.

بنجیو نیز به عنوان یکی از پژوهشگران مطرح، نسبت به خطرات بالقوه سیستم‌های قدرتمند و مستقل هشدار داده است، اما در عین حال نسبت به برخی ناظران خوش‌بین‌تر به نظر می‌رسد، چرا که به عقیده‌اش افکار عمومی بیشتر به این موضوع توجه نشان داده است.

مقصد بنجیو چیست؟

بنجیو در حال کار بر روی سازمان غیرانتفاعی LawZero است که هدف آن ایجاد روش‌هایی به منظور افزایش ایمنی سیستم‌های هوش مصنوعی می‌باشد. یکی از پروژه‌های این سازمان تحت عنوان Scientist AI، قرار است به عنوان یک لایه حفاظتی در کنار عوامل هوش مصنوعی عمل کرده و رفتارهایی مثل فریب یا تلاش برای جلوگیری از خاموش شدن سیستم را شناسایی کند. دولت‌های کانادا و آلمان نیز تا سقف ۳۰۰ میلیون دلار کانادا برای این سازمان تأمین مالی کرده‌اند.

با این حال، در مورد سرعت رونمایی از قوانین جدید، چیزی شبیه به توافق وجود ندارد. برخی منتقدان بر این باورند که درخواست‌های شرکت‌های بزرگ فناوری برای تنظیمات جدید، ممکن است به ایجاد موانعی برای رقبای کوچکتر منجر گردد. اما بنجیو این استدلال را رد کرده و می‌گوید که کند شدن پیشرفت‌های هوش مصنوعی برای شرکت‌های بزرگ نیز هزینه‌های مالی کلانی به همراه خواهد داشت.

رخ دادن یک «بحران هوش مصنوعی» در حال حاضر یقین ندارد، اما اختلاف نظرها در مورد چگونگی مدیریت خطرات فناوری و سرعت مناسب قانون‌گذاری هر روز رو به افزایش است.

۵۸۵۸