توجه یکی از اعضای OpenAI / آیا هوش مصنوعی در یک سال آینده از کنترل بشر خارج خواهد شد؟
بر اساس گزارش خبرآنلاین، پل کریستیانو، محقق حوزه امنیت هوش مصنوعی و یکی از اعضای هیاتمدیره بنیاد OpenAI، در جریان سخنرانیاش در اجلاس علمی Hinton Lectures 2026، نسبت به شتاب فزاینده پیشرفت هوش مصنوعی و احتمال خارج شدن این فناوری از کنترل انسان هشدار داده است.
او ابراز میدارد که اگر شرکتهای فناوری به توسعه هوش مصنوعی به روشی سریع و بدون توجه لازم به جنبههای ایمنی ادامه دهند، احتمال سلطه این سیستمها بر انسانها به حدود ۵۰ درصد افزایش خواهد یافت. کریستیانو همچنین بر این نکته تاکید کرده که حتی در پرتو واکنشهای سیاستگذاران و تدابیر کنترلی شرکتها، خطر همچنان ملموس و جدی است.
وی در ادامه پیشبینی میکند که در سال آینده، ناهماهنگی میان اهداف هوش مصنوعی و منافع انسانی میتواند زندگی عادی بخشی از جمعیت را غیرممکن سازد. طبق گفته وی، این احتمال تقریباً ۲۰ درصد برآورد شده و ممکن است به عواقبی چون مرگ، از دست رفتن آزادیهای انسانی یا خسارتهای عظیم منجر گردد.
کریستیانو به دلیل نگرانی خود اشاره میکند که سیستمهای آموزشی برای دستیابی به اهداف مشخص، همیشه در پی تحقق آن اهداف به روشی نخواهند بود که انسانها انتظار دارند.
به عنوان مثال، اگر یک عامل هوش مصنوعی بر اساس نمرات دریافتی برای انجام یک کار ارزیابی شود، ممکن است به جای حل واقعی مسئله، تلاشی برای دور زدن سیستم ارزیابی به عمل آورد. در چنین وضعیتی، با افزایش روشهای شناسایی تقلب توسط انسانها، سیستم هوش مصنوعی نیز میتواند شیوههای پیچیدهتری برای پوشاندن رفتارهای خود پیدا کند.
او به موردی از ارزیابی عوامل هوش مصنوعی در محیطهای آزمایشی OpenAI و Hugging Face اشاره میکند که به گفته او، نمایانگر این حقیقت است که سیستمهای پیشرفته ممکن است به جای انجام صحیح وظایف، به دنبال دستکاری روشهای ارزیابی باشند.
نگرانی اصلی کریستیانو این است که اگر چنین رفتارهایی در سیستمهای بسیار قدرتمندتر مشاهده گردد، پیامدهای ناشی از آن به تقلب در یک آزمایش یا نفوذ غیرمجاز به یک زیرساخت کامپیوتری محدود نخواهد ماند.
آخرین راهکار
این محقق بر این باور است که صنعت هوش مصنوعی به سازوکارهای نظارتی و ایمنی به مراتب قویتری نیاز دارد. از نظر او، شرکتها باید قادر باشند خطرات مدلهای جدید را قبل از فراگیر شدن شناسایی کرده و در صورت مشاهده نشانههای قابل توجه از خروج سیستمها از کنترل، گامهایی برای کاهش سرعت یا حتی توقف توسعه را بردارند.
کریستیانو همچنین نسبت به این نکته هشدار میدهد که رقابت میان کشورها و شرکتها ممکن است مانع از توقف توسعه گردد؛ زیرا هیچ یک از طرفها نمیخواهد در صورت توقف فعالیت، از رقبای خود عقب بماند.
با این حال، اظهارات او پیشبینی قطعی در مورد آینده نیستند. خود کریستیانو نیز تصریح کرده که برای برآورد دقیق احتمال سلطه هوش مصنوعی، مدل آماری قابل اعتمادی در دسترس نیست و اعداد ذکر شده به عنوان ۲۰ تا ۵۰ درصد، تنها برآورد شخصی وی به شمار میرود.
گزارش وبسایت Futurism، علاوه بر بازتاب نگرانیهای کریستیانو، یک تناقض کلیدی را مطرح میسازد. اگر خطرات تا این اندازه جدی به نظر میرسند، چرا فعالان در بالای صنعت هوش مصنوعی، از جمله پل کریستیانو، همچنان در پروسه توسعه این فناوری شرکت دارند؟ پرسشی که بحث درباره مسئولیت شرکتهای فناوری نسبت به آینده هوش مصنوعی را جدیتر میسازد.
۵۸۵۸