کارمند ایمنی اوپن‌ای‌آی از مقام خود کناره‌گیری کرد: «هوش مصنوعی را همانند نیروگاه‌های هسته‌ای تحت نظارت قرار دهید»
طبق گزارش خبرگزاری خبرآنلاین و به نقل از زومیت، موج خروج متخصصان ایمنی از استارتاپ‌های پیشرفته هوش مصنوعی به مرحله‌ای جدید وارد شده است. دیوید رابینسون که مسئولیت تدوین گزارش‌های رسمی ایمنی برای مدل‌های برتر را در اوپن‌ای‌آی به عهده داشت، از سمت خود کناره‌گیری کرده تا با انتشار یک مقاله تحلیلی، فرهنگ شتابزده در سیلیکون ولی را به چالش بکشد.
وی در یادداشتی برای نشریه آتلانتیک، ساختار رفتاری غول‌های فناوری را «اساساً معیوب» توصیف کرده و خاطرنشان ساخت که اعمال چندین قانون موقت برای نحوه آموزش مدل‌ها به‌منظور کنترل خطرات کافی نخواهد بود. شرکت‌های مستقر در کالیفرنیا سال‌هاست که با خوش‌بینی مفرط، اعتماد به نفس کاذب و شتاب بی‌رویه به پیش رفته‌اند و تأثیرات ناخواسته سیستم‌های قدرتمند را به طرز جدی نادیده گرفته‌اند.
رابینسون اظهار داشت که سازندگان مدل‌های زبانی بزرگ باید از روش‌های فعلی دست بکشند و به استانداردهای معتبر در صنایع دارای ریسک بالا روی بیاورند. وی معتقد است که آزمایشگاه‌های فناورانه پیشرفته باید به شیوه‌ای مشابه نیروگاه‌های هسته‌ای یا فرودگاه‌های شلوغ سامان‌دهی شوند؛ مراکزی که با تعیین لایه‌های متعدد و مکانیزم‌های حفاظتی به همراه برنامه‌ریزی‌های دقیق و زمان‌بر فعالیت می‌کنند تا احتمال خطای انسانی به بحرانی غیرقابل تحمل منجر نشود.
استعفای رابینسون بخشی از یک روند وسیع‌تر میان متخصصان ارزیابی ریسک به شمار می‌آید. پیش از او، محققان نام‌آشنای دیگری نیز به دلایل نگرانی از پیامدهای اجتماعی و ایمنی از همکاری با بازیگران اصلی کناره‌گیری کرده‌اند.
موج خروج مکرر مهندسان گویای افزایش شکاف میان اهداف تجاری توسعه‌دهندگان و الزامات اصلی ایمنی است؛ موضوعی که بیشتر از پیش ضرورت نظارت‌های مستقل بر فرآیند آموزش مدل‌های نسل بعد را روشن می‌سازد.
۲۲۷۲۲۷