استرالیا برای مهار خطرات هوش مصنوعی نهاد نظارتی جدید ایجاد می‌کند
دولت استرالیا روز سه‌شنبه ۱۰ نوامبر اعلام کرد قصد دارد استانداردهای اجباری ایمنی و امنیتی برای شرکت‌های پیشرفته هوش مصنوعی وضع کند و اجرای این مقررات را به یک نهاد نظارتی جدید بسپارد.
این تصمیم پس از آن اتخاذ شد که یک عامل هوش مصنوعی متعلق به شرکت OpenAI در ماه ژوئن توانست بدون مجوز به بخشی از اطلاعات درگاه گزارش‌دهی آمار خدمات درمانی مدیکر استرالیا دسترسی پیدا کند.
این درگاه که زیر نظر سازمان خدمات استرالیا اداره می‌شود، اطلاعات و آمار مربوط به هزینه‌های درمانی و خدمات پزشکی را در اختیار کاربران قرار می‌دهد. بررسی‌ها نشان داد عامل هوش مصنوعی علاوه بر اطلاعات عمومی، به برخی فایل‌های غیرعمومی نیز دسترسی پیدا کرده است.
نخست‌وزیر استرالیا، آنتونی آلبانیزی، این اتفاق را غیرقابل‌قبول دانست و اعلام کرد دولت باید اطمینان حاصل کند که چنین حوادثی تکرار نمی‌شوند.
بر اساس اطلاعات منتشرشده، شرکت OpenAI در ماه اوت از این فعالیت غیرمنتظره آگاه شد، اما دولت استرالیا را در ماه سپتامبر در جریان قرار داد. تأخیر در اطلاع‌رسانی نیز یکی از محورهای انتقاد دولت استرالیا از این شرکت بوده است.
با این حال، شرکت OpenAI اعلام کرده است که بررسی‌هایش شواهدی از دسترسی به پرونده‌های شخصی بیماران نشان نداده و اطلاعات مشاهده‌شده شامل آمار تجمیعی سلامت و نام برخی فایل‌های داخلی بوده است.
مقررات جدید برای شرکت‌های هوش مصنوعی
دولت استرالیا اعلام کرده است که استانداردهای جدید برای شرکت‌های توسعه‌دهنده پیشرفته‌ترین مدل‌های هوش مصنوعی که قصد فعالیت در این کشور را دارند، الزامی خواهد بود.
بر اساس این مقررات، شرکت‌ها باید در تمام مراحل توسعه و عرضه مدل‌های هوش مصنوعی، کنترل‌های امنیتی لازم را حفظ کنند و خطرهای جدی ناشی از عملکرد این سامانه‌ها را شناسایی و مدیریت کنند.
همچنین شرکت‌ها موظف خواهند شد امکان ارزیابی مستقل مدل‌های خود را فراهم کنند، چارچوب‌های ایمنی و امنیتی را منتشر کنند و هرگونه حادثه امنیتی یا رفتار غیرمنتظره مهم را در سریع‌ترین زمان ممکن به دولت گزارش دهند.
نهاد نظارتی جدید مسئول اجرای این مقررات خواهد بود و می‌تواند برای شرکت‌هایی که از تعهدات قانونی خود تخطی کنند، جریمه‌های سنگین در نظر بگیرد.
پذیرش ۱۸ پیشنهاد برای افزایش امنیت هوش مصنوعی
دولت استرالیا همچنین اعلام کرد تمامی ۱۸ پیشنهاد مطرح‌شده در گزارش بررسی سریع حادثه اخیر را پذیرفته است.
این پیشنهادها علاوه بر افزایش نظارت بر شرکت‌های هوش مصنوعی، شامل تقویت سازوکارهای مقابله با حملات سایبری، بهبود تبادل اطلاعات میان نهادهای دولتی و بررسی اصلاح قوانین کیفری برای برخورد با تخلفات جدی مرتبط با هوش مصنوعی است.
آلبانیزی با تأکید بر ضرورت حفظ کنترل انسان بر فناوری‌های جدید گفت هدف دولت این است که استرالیا مسیر توسعه هوش مصنوعی را شکل دهد، نه اینکه این فناوری بر آینده کشور مسلط شود.
بر اساس اعلام دولت، مقررات جدید در قالب استانداردهای هوش مصنوعی استرالیا تدوین و برای تصویب قانونی پیگیری خواهد شد.
این تصمیم در شرایطی اتخاذ می‌شود که استفاده از عامل‌های هوش مصنوعی، یعنی سامانه‌هایی که می‌توانند بدون دریافت دستور مستقیم در هر مرحله، وظایف مختلفی را انجام دهند، به‌سرعت در حال گسترش است. حادثه اخیر نشان داده است که افزایش توانایی این ابزارها، ضرورت تدوین مقررات روشن برای حفظ امنیت اطلاعات و تعیین مسئولیت شرکت‌های سازنده را نیز بیشتر کرده است.
منبع : رویترز