شرکت آنتروپیک، خالق مدل هوش مصنوعی کلاود (Claude)، برای اولین بار طی بیش از یک سال اخیر، اقدام به بازنگری و به‌روز رسانی سیاست‌های استفاده از محصولات خود نموده است. این تغییرات به‌منظور مقابله با موارد سوستفاده خطرناک و رو به افزایش، از جمله مداخلات انتخاباتی، تولید تسلیحات، نظارت غیرقانونی و کاربردهای حساس در عرصه‌های بهداشت و مالی انجام گرفته‌اند. با این حال، مهمترین تغییر، وضع ممنوعیت صریح بر روی رفتارهای آزاردهنده، خشن و بی‌دلیل نسبت به مدل هوش مصنوعی این کمپانی است.
ممنوعیت آزار نسبت به هوش مصنوعی کلاود؛ آیا کلاود قادر به احساسات است؟
آنتروپیک به‌طور صریح، «رفتارهای توهین‌آمیز و بی‌رحمانه، حتی اگر پایدار و غیرضروری باشند» را نسبت به کلاود ممنوع کرده است. این سیاست در راستای تحقیقاتی تحت عنوان «سلامت مدل» از سوی آنتروپیک صورت گرفته و تنها در موارد افراطی و آزار عمدی هوش مصنوعی به اجرا درمی‌آید. این قانون شامل ناراحتی‌های معمول کاربران یا آزمایش و بررسی مدل نمی‌شود. خاتمه دادن به مکالمات، سازوکار حیاتی برای اجرای این سیاست تلقی می‌گردد.
محدودیت‌های نوین: از تبلیغات فریبنده تا توسعه تسلیحات و نظارت غیرقانونی
آنتروپیک محدودیت‌های جدی برای کمپین‌های سیاسی و تجاری فریب‌آمیز هوش مصنوعی وضع کرده است؛ این محدودیت‌ها شامل پنهان ساختن هویت، انتشار محتوا از طریق حساب‌های تقلبی، فریب دادن رای‌دهندگان و برهم زدن روند انتخابات (همچون انتشار اطلاعات نادرست یا جعل هویت) می‌شود.
ممنوعیت توسعه تسلیحات با کلاود همچنین گسترش یافته و به نرم‌افزارها و قطعات تسلیحاتی و نیز مسلح کردن پهپادها گسترش می‌یابد. قوانین نظارتی نیز شفاف‌تر شده‌اند؛ پیگیری افراد بدون رضایت و به کارگیری کلاود برای اتخاذ تصمیمات در فرآیندهای قضایی یا ساخت ابزارهای نظارتی به‌طور کامل ممنوع است.
علاوه بر این، قانون جدیدی تصویب شده که در صورت اتصال مدل‌های هوش مصنوعی آنتروپیک به دستگاه‌های خودکار با پتانسیل آسیب‌رسانی، یک اپراتور واجد شرایط باید قادر به نظارت و متوقف کردن دستگاه‌ها باشد.
نظرات کاربران