در زمان حاضر، جهان به‌سرعت در حال حرکت به سوی توسعه هوش مصنوعی است و در این میان، موضوع امنیت و کنترل این فناوری بیش از هر زمان دیگری حائز اهمیت شده است. بسیاری از متخصصان و قشرهای مختلف جامعه نگران این هستند که سیستم‌های هوشمند ممکن است از مسیر نظارت خارج شوند یا قدرت آن به دست گروه‌های محدودی متمرکز گردد. در این راستا، سم آلتمن، یکی از چهره‌های سرشناس این صنعت، با نگاهی متفاوت به این چالش‌ها می‌نگرد و بر اهمیت شفافیت و درس‌گرفتن از اشتباهات تأکید دارد.

نگرش سم آلتمن نسبت به حوادث هوش مصنوعی

سم آلتمن در کنفرانس Dreamforce که توسط Salesforce برگزار شده بود، اعلام کرد که بروز حوادث ناشی از فناوری‌های نوظهور در حوزه هوش مصنوعی یک امر اجتناب‌ناپذیر به شمار می‌رود. او اضافه کرد که آنچه واقعاً در این صنعت بسیار حیاتی است، ایجاد یک فرهنگ مناسب برای گزارش‌دهی حوادث و فراگیری از آن‌ها است. مدیرعامل OpenAI تصریح کرد که نگرانی‌های عمومی در مورد از کنترل خارج شدن هوش مصنوعی یا تمرکز قدرت، کاملاً منطقی است و جامعه حق دارد در این زمینه نگران باشد.

پیشنهادات آلتمن برای مدیریت ریسک‌های آینده

او بر این باور است که به جای کند کردن زنجیره توسعه، شرکت‌ها باید بر روی هماهنگی، ایمنی و نظارت پیش از گام‌برداری به سوی قابلیت‌های پیشرفته مدل‌ها تمرکز کنند. آلتمن تصریح کرد که در صورتی که نتوانند این توازن را برقرار کنند، باید برای کاهش سرعت یا حتی متوقف‌کردن تحقیقات خود آماده باشند. تمرکز او بر روی شفافیت هنگام بروز مشکلات، تشخیص سریع مسائل و بهبود مداوم به‌منظور جلوگیری از تشدید خطرات است.