بیل گیتس، خطرات واقعی هوش مصنوعی را افشا کرد / مسئلهای که کمتر دربارهاش بحث میشود
به نقل از خبرآنلاین، بیل گیتس در مصاحبهای با برنامه «Meet the Press» از شبکه NBC اظهار داشت که بحث پیرامون ایجاد یک «کلید خاموشی» برای هوش مصنوعی بهطرز غیرضروری بر یک سناریوی فرضی متمرکز شده است. سناریویی که در آن یک هوش مصنوعی بسیار پیشرفته دیگر به سادگی خاموش نمیشود.
به عقیده او، این موضوع نباید منجر به نادیده گرفتن خطرات فعلی گردد.
خطر اصلی در جای دیگر نهفته است
گیتس بر این باور است که یکی از خطرناکترین ترکیبهای ممکن، توافق افراد دارای نیتهای شوم و ابزارهای قدرتمند هوش مصنوعی است.
او به این نکته اشاره کرده است که تا به امروز، سلاحی با قدرت ترکیب «افراد دارای نیت مخرب» و جدیدترین فناوریهای هوش مصنوعی وجود نداشته است. این نگرانی صرفاً یک سناریوی علمیتخیلی نیست. مدلهای کنونی در حال بهکارگیری برای انجام وظایف پیچیده هستند و شرکتهای توسعهدهنده گزارشهایی از تلاشها برای سوءاستفاده از هوش مصنوعی در حملات سایبری و تحقیقات علمی خطرناک ارائه کردهاند.
پس سرنوشت کلید خاموشی چیست؟
کلید خاموشی یا «Kill Switch» مفهومی برای متوقف کردن یک سیستم هوش مصنوعی در شرایط بحرانی است. وجود چنین مکانیزمی برای سیستمهای بسیار پیشرفته بهعنوان یک لایه دفاعی کلیدی به شمار میرود.
اما از دیدگاه گیتس، خاموش کردن سیستم پس از آغاز یک فعالیت مخرب الزماً نمیتواند تمام مشکلات را مرتفع سازد. مثلاً اگر فردی از یک مدل هوش مصنوعی برای انجام یک حمله سایبری استفاده کند، اقدام به خاموش کردن آن مدل پس از شروع حمله به تنهایی نمیتواند کلیه خسارات وارده را جبران نماید.
بنابراین، گیتس بر این باور است که باید نظارت بر فعالیت مدلهای پیشرفته از آغاز انجام گیرد و سوابقی قابل بررسی برای استفاده از آنها تهیه شود. او اعتقاد دارد که مسئولیت تعیین و اجرای این محدودیتها نباید تنها بر عهده شرکتها باشد و دولتها نیز باید در تدوین استانداردهای نظارتی و ایمنی سهم داشته باشند.
هوش مصنوعی بیضابطه
نگرانیها درباره سیستمهایی که ممکن است در آینده بهطرز مستقل عمل کنند، خود را بهبود بخشند یا کنترل انسان را از دست بدهند، یکی از موضوعات اصلی در بحث ایمنی هوش مصنوعی بهشمار میآید.
با این حال، گیتس اعلام کرده است که سیستمهای فعلی هنوز به نقطهای نرسیدهاند که امکان کنترل کامپیوترها را از دست بدهند و نتوان آنها را خاموش کرد. به همین خاطر، او بر این باور است که تمرکز بیش از حد بر چنین سناریویی میتواند توجه را از خطراتی که هماکنون وجود دارند منحرف سازد.
این مسئله به معنای نادیده گرفتن خطرات آینده نیست. نکته این است که برای مقابله با تهدیدهای هوش مصنوعی نیازی نیست انتظار ظهور یک هوش مصنوعی کاملاً خودمختار را بکشیم، چرا که مشکلات از همین حالا آغاز شدهاند.
نگرانی اصلی این است که قدرت مدلهای امروزی به چه کسانی سپرده میشود و آنها چگونه از این قدرت استفاده خواهند کرد. یک مدل هوش مصنوعی میتواند برای ایجاد دارو بهکار گرفته شود و همان فناوری میتواند تحت کنترل فردی دیگر برای حملات سایبری یا فعالیتهای بیولوژیکی خطرناک مورد استفاده قرار گیرد. تفاوت در خود فناوری نیست، بلکه در نوع مصرف آن است.
به همین جهت، گیتس تأکید دارد که نظارت، ثبت فعالیتها و مکانیزمهای ایمنی باید بهموازات پیشرفت هوش مصنوعی توسعه یابند. او بر این باور است که نباید منتظر یک فاجعه بزرگ بود تا دولتها و شرکتها در مورد قوانین ایمنی تصمیمگیری کنند.
۵۸۵۸