طبق گزارش خبرآنلاین و به نقل از دیجیاتو، «جیکوب کاکسون»، پژوهشگر پیشین OpenAI و آنتروپیک، در روز سهشنبه از سمت خود در شرکت سازنده Claude کنارهگیری کرد و ابراز داشت که هر دو شرکت در تلاش برای توسعه هوش مصنوعیی خطرناک و خودبهبوددهنده هستند.
کاکسون در یک پست منتشرشده در شبکه اجتماعی ایکس اعلام کرد که در طول سه سال اخیر، در هر دو نهاد روی تحقیقات مرتبط با پیشآموزش (Pre-training) مدلهای هوش مصنوعی مشغول به کار بوده است. او تصریح کرد: «هیچیک از این دو شرکت به طور مسئولانه عمل نمیکنند و به طور مستقیم در حال حرکت به سمت ایجاد ابرهوش خودبهبوددهندهای هستند که با جان ما بازی میکند.»
کاکسون از سال ۲۰۲۳ تا ژوئیه ۲۰۲۶ بخشی از تیم فنی OpenAI بود و در این دوره بر روی پروژههایی مانند GPT-4o کار کرده است. پس از آن، او بهعنوان پژوهشگر به آنتروپیک ملحق شد.
او بر این باور است که این دو شرکت در مورد دغدغههای خود پیرامون هوش مصنوعی از شفافیت کافی برخوردار نیستند. در پست خود نوشت: «سازندگان هوش مصنوعی بهطرز جدی معتقدند که این فناوری میتواند تا پایان این دهه زندگی همه ما را تهدید کند; این یک تبلیغ نیست.»
کاکسون همچنین به تفاوتهای موجود میان رویکردهای OpenAI و آنتروپیک اشاره کرد. او اظهار داشت که تعداد زیادی از افراد در OpenAI توجهی به عواقب توسعه هوش مصنوعی ندارند، در حالی که در آنتروپیک این معضلات بهتر درک شدهاند، البته این شرکت نیز به منظور پیشرفت بر رقبای خود به رقابت پرداخته است.
او افزود: «در آنتروپیک، اهمیت این موضوع بهخوبی درک شده، اما آنها در رقابت برای کسب موقعیت برتر گرفتار آمدهاند.» «ایوان هوبینگر»، پژوهشگر کنونی آنتروپیک که رهبری تیم آزمایش همترازی این شرکت را برعهده دارد، نیز با نظرات کاکسون همنظر شد. هوبینگر نوشت: «جیکوب در این زمینه حق دارد، ما واقعاً و بهطور صادقانه باور داریم که هوش مصنوعی قادر است کل انسانیت را تحت تأثیر قرار دهد.»
او احتمال وقوع چنین رویدادی در دهه آینده را بیشتر از ۱۰ درصد ارزیابی کرد و بیان کرد که آنتروپیک در تلاش است تا بهترین عملکرد خود را ارائه دهد، اما هنوز هیچ برنامهای برای حل چالش همترازی ابرهوش ندارد و مشخص نیست که آیا در حال حاضر در راستای دستیابی به این هدف قرار دارد یا خیر.
۵۸۵۸
نظرات کاربران