هوش مصنوعی متا آدرس محل سکونت یک یوتیوبر مشهور را به فردی ناشناس ارسال کرد

طبق گزارش خبرگزاری خبرآنلاین و بر اساس اطلاعات موجود در زومیت، سپردن اختیارات مذاکره و مدیریت پیام‌ها به دستیارهای هوشمند شخصی ممکن است گاهی نتایج غیرقابل پیش بینی و حتی خطرناک به دنبال داشته باشد. مت راب، یوتیوبر معروف در حوزه فناوری، تجربه‌ی نگران‌کننده‌ای را پس از واگذاری مسئولیت‌های خود در بخش Facebook Marketplace به دستیار هوش مصنوعی میوس، تجربه کرد.

این عامل هوشمند که توسط متا در حال توسعه بود، بدون اینکه به صاحب‌خانه اطلاع دهد، نشانی منزل وی را به یک خریدار ناشناس ارائه داد و معامله‌ای را با قیمتی بسیار پایین‌تر از تصور او نهایی کرد.

خریدار بدون هیچگونه هماهنگی قبلی، بر اساس گفتگو با دستیار هوشمند، در مقابل مجتمع مسکونی حاضر شد و مت راب تنها زمانی از این اتفاق مطلع شد که فرد خریدار ساختمان را ترک کرده بود.

بررسی مکالمات ثبت‌شده توسط خود هوش مصنوعی نشان می‌دهد که راب دسترسی کامل به سیستم را فراهم کرده بود تا پاسخ‌هایی کوتاه و دوستانه به خریداران ارائه دهد. او اطلاعاتی مانند آدرس منزل، زمان‌های موجود برای تحویل و روش‌های پرداخت قابل قبول را در حافظه نرم‌افزار ذخیره کرده بود. با این حال، هیچ دستوری برای افشای آدرس به خریداران صادر نشده بود و دستیار، قبل از ارسال این اطلاعات حساس، هیچگونه رضایت‌گیری از کاربر انجام نداد.

یک جنبه کلیدی ماجرا به نحوه طراحی سیستم دسترسی‌ها مربوط بود. راب در حین راه‌اندازی اولیه ربات، گزینه دسترسی دائمی را برگزید و فکر می‌کرد که سیستم پیش از تأیید نهایی پیشنهادها، تأییدیه‌ای دریافت خواهد کرد. این عامل نرم‌افزاری با استفاده از الگوهای خودکار، پیام‌ها را ارسال کرده و بدون فیلتر ایمنی، نشانی کاربر را با طرف مقابل به اشتراک گذاشت.

دیوید سینگلتون از آزمایشگاه ابرهوش متا (Meta Superintelligence Labs) پس از انتشار این گزارش، به راب نزدیک شد. نمایندگان متا اعلام کردند که تلاش خواهند کرد تا روند آگاهی از مجوزها و اشتراک‌گذاری داده‌های حساس را برای کاربران واضح‌تر کنند تا مرز بین اطلاعات عمومی و داده‌های شناسایی به درستی حفظ شود.

آیا شما مایل هستید تمامی امور مربوط به مدیریت پیام‌ها و فروش محصولات خود را به دستیارهای هوش مصنوعی بسپارید؟ نظرات خود را با ما به اشتراک بگذارید.

۲۲۷۲۲۷