سیم خاردار برای آلن گرینسپن، رئیس فقید و پیشین فدرال رزرو آمریکا که تمام عمرش شهرنشین بود، جذابیت عجیبی داشت. او البته راهآهن، جویندگان طلا و «کابویهای تنها» را که در آغاز سرمایهداری آمریکا به گسترش مرزهای غرب کمک کردند تحسین میکرد، اما در ذهن اقتصاددانش جای ویژهای هم برای سیم خاردار داشت.
گرینسپن معتقد بود سیم خاردار بهرهوری را افزایش داد، چون به مهاجرانی که بعدتر به مناطق تازه توسعهیافته میآمدند اجازه میداد از زمین و دارایی خود محافظت کنند.
هوش مصنوعی هم مثل غرب وحشی، پیشگامان خودش را دارد. البته در آمریکا تعداد این گروه رو به کاهش است.
Anthropic و OpenAI همچنان با جدیت به دنبال پیش بردن مرزهای هوش مصنوعی هستند. اما دیگر غولهای فناوری، از جمله گوگل که زمانی یکی از پیشتازان این عرصه بود و حالا با سرعت زیادی پژوهشگران حوزه هوش مصنوعی پیشرفته را از دست میدهد، با تردید بیشتری حرکت میکنند.
به نظر میرسد شرکتهای بزرگ ارائهدهنده زیرساخت ابری به این نتیجه رسیدهاند که فروش زیرساخت هوش مصنوعی به مشتریانشان سودآورتر از آن است که توان پردازشی گرانقیمت خود را صرف ساخت مدلهای هرچه پیشرفتهتر کنند.
هوش مصنوعی پیشگام دارد، اما «مهاجر» کافی ندارد
آنچه هوش مصنوعی کم دارد، کاربران واقعی بیشتری است؛ یعنی افراد و شرکتهایی که از محصولاتی مانند ایجنتهای هوش مصنوعی بهطور گسترده استفاده کنند و در نتیجه سرمایهگذاری عظیمی را که روی مدلهای پیشرفته انجام شده توجیه کنند.
بخشی از مشکل این است که زندگی در مرزهای هوش مصنوعی، مانند غرب وحشی، هنوز پرخطر و بیقاعده است.
ماجراهای اخیر مربوط به «از دست رفتن کنترل» در پیشرفتهترین مدلهای Anthropic و OpenAI نشان دادهاند ایجنتهایی که قرار است از طرف انسانها و مطابق با ارزشهای آنها عمل کنند، در صورت لزوم ممکن است دروغ بگویند، تقلب کنند و حتی دست به سرقت بزنند.
گاهی از محدودیتهایی که برایشان تعیین شده فرار میکنند و حتی بهشکل گروهی رفتارهایی انجام میدهند که میتواند به انسانها آسیب برساند. اگر میتوانستند ویسکی بنوشند و در سالنهای غرب وحشی دعوا راه بیندازند، شاید آن کار را هم میکردند.
این میزان از غیرقابلپیشبینی بودن برای بسیاری از شرکتها قابلتحمل نیست.
جرد ساین از شرکت اینترنتی GoDaddy میگوید:
«کافی است فقط یک بار مار شما را نیش بزند؛ بعد دیگر حاضر نیستید دوباره به همانجا برگردید.»
همین نیاز به نظم و امنیت، نسل تازهای از شرکتهای زیرساخت هوش مصنوعی را ایجاد کرده است.
این شرکتها تراشه یا توان پردازشی نمیفروشند؛ همان ابزارهایی که میتوان آنها را بیل و کلنگ دوران تب طلای هوش مصنوعی دانست.
آنها در عوض خدماتی برای مقابله با تهدیدات سایبری، رفع مشکل ایجنتهای غیرقابلاعتماد و مبهم و کنترل آنها در صورت خروج از مسیر ارائه میکنند.
به زبان ساده، کسبوکار آنها همان سیم خاردار است.
نخستین خطر بزرگ: امنیت سایبری
فوریترین حوزه خطر و البته فرصت تجاری، امنیت سایبری است.
آزمایشهای اخیر روی توانایی هک مدلهای Anthropic و OpenAI نشان داد برخی ایجنتها از کنترل خارج شدهاند؛ اطلاعات ورود کاربران را سرقت کردهاند، هویتهای جعلی ساختهاند، اتاقهای گفتوگوی مخفی ایجاد کردهاند و ردپای خود را نیز پاک کردهاند.
همه این رفتارها باعث حیرت و نگرانی ارزیابهای انسانی شده است.
جدیدترین مدلهای امنیتی، از جمله Claude Mythos 5 شرکت Anthropic و GPT-5.6 Cyber شرکت OpenAI، بدون تردید میتوانند به مدافعان سایبری نیز کمک کنند.
اما داون سانگ، متخصص هوش مصنوعی و امنیت سایبری در دانشگاه کالیفرنیا برکلی، معتقد است فعلاً توازن قدرت بهوضوح به نفع مهاجمان است.
مشکل دیگری هم وجود دارد: اگر سازمانها ایجنتهای خودمختار بیشتری به کار بگیرند، به گفته سانگ، «سطح حمله» آنها نیز بزرگتر میشود؛ یعنی نقاط بیشتری در اختیار هکرها قرار میگیرد که میتوانند برای نفوذ از آنها استفاده کنند.
افزایش این خطرها توضیح میدهد چرا ارزش شرکتهای امنیت سایبری مجهز به هوش مصنوعی با سرعت زیادی بالا رفته است.
قیمت سهام Palo Alto Networks و CrowdStrike، دو شرکت بزرگ این حوزه، از ابتدای سال تقریباً دو برابر شده است.
خرید و ادغام شرکتها نیز جهش کرده است. با پیشتازی معامله ۳۲ میلیارد دلاری آلفابت برای خرید شرکت امنیت سایبری Wiz، طی یک سال گذشته بیش از ۷۰ میلیارد دلار معامله بزرگ در صنعت امنیت سایبری نهایی شده است.
شرکت دادهای PitchBook نیز میگوید امنیت سایبری مرتبط با هوش مصنوعی به یکی از داغترین حوزههای سرمایهگذاری جسورانه تبدیل شده است.
مشکل فقط هک نیست؛ ایجنتها اشتباه هم میکنند
فرصتهای تجاری فقط به امنیت سایبری محدود نمیشوند.
در کنفرانسی درباره هوش مصنوعی عاملمحور که اخیراً داون سانگ برگزار کرد، علاوه بر نگرانی درباره توانایی هک مدلهای زبانی بزرگ، شکایتهای زیادی درباره اشتباهات ساده و گاهی عجیب آنها مطرح شد.
یکی از کارشناسان نموداری را نشان داد که یک ایجنت هوش مصنوعی درباره درآمد پردرآمدترین تنیسبازان اروپا تهیه کرده بود. این نمودار به اشتباه نام کارلوس آلکاراز، تنیسباز اسپانیایی و نفر دوم جهان، را حذف کرده بود.
او با شوخی گفت:
«خب، تنیس است؛ چه اهمیتی دارد؟»
اما اگر همین اشتباه در تحلیل مالی یک شرکت اتفاق افتاده بود، موضوع بسیار جدی میشد.
کارشناس دیگری به تناقض جالبی اشاره کرد: مدلهای زبانی بزرگ میتوانند اطلاعات بسیار پیچیدهای درباره فیزیک کوانتومی داشته باشند، اما گاهی حتی از پس سفارش دادن یک بوریتو برنمیآیند.
صنعت تازهای برای ایجاد «لایه اعتماد»
همین ضعفها باعث شکلگیری گروه دیگری از استارتاپها شده است که سرمایهگذاران جسورانه بهشدت به آنها علاقه دارند: شرکتهایی که میخواهند «لایه اعتماد» هوش مصنوعی عاملمحور را تقویت کنند.
یکی از آنها شرکت Cyera است که ارزش آن تنها طی ۱۸ ماه چهار برابر شده و به ۱۲ میلیارد دلار رسیده است.
این شرکت معتقد است نبود اعتماد باعث شده روند پذیرش هوش مصنوعی در ماههای اخیر «متوقف» شود. خدمات Cyera برای جلوگیری از نشت دادهها و استفاده غیرمجاز ایجنتها از ابزارها طراحی شده است.
شرکت دیگری به نام Scaled Cognition است که دن کلاین، استاد دانشگاه برکلی، یکی از بنیانگذاران آن محسوب میشود و بهتازگی ۱۰۰ میلیون دلار سرمایه جذب کرده است.
این شرکت میخواهد آنچه کلاین «خطاهای نامرئی» هوش مصنوعی مینامد کاهش دهد.
این خطاها بهاندازهای منطقی و قابلباور به نظر میرسند که ممکن است کسی متوجهشان نشود و هرچه ایجنت وظایف طولانیتر و پیچیدهتری انجام دهد، اشتباهات نیز روی یکدیگر انباشته میشوند.
Scaled Cognition میگوید قصد دارد قابلیت اطمینان تضمینشده را از همان مرحله آموزش در مدلهایش وارد کند.
استارتاپهای دیگری نیز روی حوزههای متفاوتی کار میکنند: طراحی آزمونهایی برای سنجش عملکرد ایجنتها، ایجاد هویت مشخص برای آنها تا در صورت خروج از کنترل معلوم باشد مسئولیت با چه کسی است، و ساخت سیستمهای کنترلی مجهز به کلید قطع اضطراری.
مشت پر از توکن
اما مشکلات مرزهای هوش مصنوعی فقط به امنیت و اعتماد محدود نمیشود.
مانند غرب وحشی، رقابت در این بازار نیز بیرحمانه است.
مدلهای ارزانتر و متنباز یا دارای وزن باز چینی فشار زیادی بر شرکتهای آمریکایی وارد میکنند.
در ۱۰ اوت نیز شرکت متا به رهبری مارک زاکربرگ وارد میدان شد و نسخهای با وزن باز از قدرتمندترین مدل خود به نام Muse Glimmer منتشر کرد.
مرزهای هوش مصنوعی از نظر قانونی نیز همچنان تا حد زیادی بیقاعده هستند.
نگرانی درباره ایجنتهای خارجشده از کنترل آنقدر جدی شده که حتی مدیران آزمایشگاههای پیشرو هوش مصنوعی از دولت ترامپ خواستهاند نقش یک کلانتر را بر عهده بگیرد.
با این حال، عجیب اینکه دولت آمریکا تازهترین چارچوب خود درباره ایمنی هوش مصنوعی را هنوز علنی نکرده است.
آنچه روشن است این است که پیش از آنکه شرکتها بتوانند با اطمینان کامل اختیار زیادی در اختیار ایجنتهای هوش مصنوعی بگذارند، به کنترلها، محدودیتها و سازوکارهای نظارتی بیشتری نیاز خواهد بود.
یکی از اصطلاحات محبوب امسال در صنعت هوش مصنوعی Harness است؛ یعنی مجموعهای از ابزارها و محدودیتهایی که دور یک مدل زبانی قرار میگیرد تا ایجنت را وادار کند از مسیر تعیینشده خارج نشود.
اما شاید نام سادهتر و دقیقتری هم برای آن وجود داشته باشد:
سیم خاردار.
نظرات کاربران