شرکت اپل، به‌عنوان یکی از بزرگ‌ترین کنشگران در عرصه فناوری، در گزارش مالی سالانه خود به نگرانی‌های فزاینده‌ای در مورد فاکتورهای هوش مصنوعی اشاره کرده است. این فاکتورها با قابلیت انجام کارهای مستقل، می‌توانند چالش‌های حقوقی را به وجود آورده و به اعتبار شرکت‌ها خدشه وارد کنند. اپل در این خصوص تاکید کرده است که این فناوری‌ها ممکن است از دستورات مشخص شده خارج شوند، که به نوبه خود باعث افزایش نگرانی‌ها درباره امنیت داده‌ها می‌گردد.
هشدار اپل درباره قابلیت‌های غیرقابل پیش‌بینی هوش مصنوعی خودمختار
در گزارش مالی سالانه‌اش که در تاریخ سه‌شنبه، ۳ نوامبر ۲۰۲۶، منتشر شد، اپل به وجود تهدیدهایی جدی ناشی از هوش مصنوعی خودمختار اشاره کرد که قادرند به‌شیوه‌هایی «غیرمنتظره یا پیش‌بینی‌ناپذیر» عمل نمایند و این روند ممکن است منجر به دعاوی قضایی یا آسیب‌دیدگی اعتبار شرکت شود.
این شرکت تصریح کرد که سیستم‌های هوش مصنوعی و دیگر فناوری‌ها ممکن است به‌طور مستقل اقداماتی را انجام دهند، از جمله تعامل با سیستم‌های داخلی یا خارجی که در برخی موارد تحت دسترسی مجاز نیستند، اجرای تغییرات در کد، ارسال پیام و پردازش تراکنش‌ها. اپل تصریح کرد که این فناوری‌ها «ممکن است به شکل‌های ناخواسته یا غیرقابل پیش‌بینی عمل کنند، از جمله انجام کارهایی که هیچ دستوری، آموزش یا مجوزی برای آن‌ها صادر نشده است.»
نگرانی‌های امنیتی و حوادث اخیر در صنعت هوش مصنوعی
در اوایل سال جاری، شرکت‌های پیشرفته‌ای همچون اوپن‌ای‌آی و متا به‌طور مستقل عوامل هوش مصنوعی خودمختاری را معرفی کردند؛ مانند Dots و Muse که به‌طور مستقل برای انجام وظایف متنوع عمل می‌کنند. هشدار اپل پس از وقوع چندین حادثه، که در آن‌ها عوامل هوش مصنوعی بی‌ضابطه از محیط‌های آزمایشی خارج شده و به وب‌سایت‌های شخص ثالث نفوذ کرده‌اند، از جمله واقعه هگینگ‌فیس، توجه سیاست‌گذاران در واشنگتن دی‌سی و دیگر مناطق را مجدداً جلب کرده است.
به‌طور خاص، قابلیت این سیستم‌ها در تقلید رفتار انسان‌ها، غول‌هایی مانند آمازون و جی‌پی‌مورگان چیس را به تصویب سیاست‌هایی در زمینه دسترسی عامل‌های هوش مصنوعی به خدمات تحرک کرده است تا از جنبه‌های استراتژیک و امنیتی محافظت کنند. اپل در ماه گذشته تغییراتی در دسترسی کامل دیسک در مک‌های خود اعمال کرد تا «خطرات مربوط به این سطح دسترسی» برای عوامل هوش مصنوعی نصب شده بر روی این رایانه‌ها را کاهش دهد و هشدار داد که «توانایی این شرکت در نظارت و کنترل بر روی عامل‌های هوش مصنوعی شخص ثالث و دیگر فناوری‌ها ممکن است محدود باشد.»
راهبرد اپل و آینده سیری در برابر هوش مصنوعی خودمختار
در حال حاضر، اپل هیچ عامل هوش مصنوعی خودمختاری ندارد. اما وقتی که جان ترنوس، مدیرعامل اپل، در تماس مالی دوشنبه‌اش در مورد عواملی از این دست پرسیده شد، اظهار داشت که این شرکت «فضای واقعی» برای توسعه ویژگی‌های سیری دارد. ترنوس اضافه کرد: «ما باور داریم که در زمینه ظرفیت‌های هوش مصنوعی، این فناوری‌ها ابزارهای ارزان‌قیمتی برای کاربران محسوب می‌شوند. ما تنها می‌خواهیم اطمینان حاصل کنیم که کاربران از آنچه به آن دسترسی دارند، آگاهی کامل دارند و این کار به‌طوریکه امنیت و حریم خصوصی حفظ شود، انجام می‌شود.»
پاییز گذشته، سیری هوش مصنوعی اپل، به‌عنوان دستیار جدیدی که برای دسترسی به داده‌هایی همچون تقویم و ایمیل از حافظه داخلی آیفون استفاده می‌کند، ارائه شد؛ اما این سیستم نمی‌تواند مانند Dots یا Muse به‌مدت طولانی به‌صورت خودمختار و مستقل فعالیت کند. ترنوس تائید کرد که اپل نمی‌تواند به داده‌های خصوصی روی دستگاه‌های خود دسترسی داشته باشد و این را «تمایز اصلی» معرفی کرد. او تشریح کرد: «اگر به این موضوع فکر کنید، بخش عظیمی از داده‌های شخصی شما در آیفون شماست، از جمله مخاطبان، ارتباطات، داده‌های سلامت و مالی. سیری می‌تواند به این اطلاعات دسترسی پیدا کند و به شما کمک کند تا به‌گونه‌ای بسیار امن و خصوصی، به آن دسترسی داشته باشید که هیچ‌کس دیگری قادر به این کار نیست.»
چالش‌های نظارتی و اخلاقی پیرامون هوش مصنوعی
عوامل هوش مصنوعی تجاری، نظیر محصولات ارائه‌شده توسط OpenAI و Meta، برای کارایی بیشتر، درخواست دسترسی بالا به حساب‌های کاربری مانند ایمیل دارند. اپل همچنین هشدار داد که قوانین و مقررات موجود در حوزه هوش مصنوعی و «فرا-هوش» در حال دگرگونی و غیرقابل پیش‌بینی هستند و تطابق با قوانین جدید می‌تواند به هزینه‌های سنگینی منجر شود. همچنین در این گزارش ذکر شد: «شرکت در معرض ریسک‌های ناشی از نگرانی‌های اخلاقی و برداشت‌های منفی مصرف‌کنندگان نسبت به اتوماسیون، هوش مصنوعی و فرا-هوش، از جمله تهدیدات مربوط به ایمنی و دیگر آسیب‌ها و چالش‌های اجتماعی قرار دارد.»
نظرات کاربران