این اقدام به منظور رعایت قوانین هوش مصنوعی و اتحادیه اروپا به اجرا در خواهد آمد که از ۲ اوت ۲۰۲۶ آغاز می‌شود و شرکت‌های فعال در زمینه هوش مصنوعی را موظف می‌سازد تا محتوای تولیدی خود را نشانه‌گذاری کنند. هدف کلیدی این قانون، ارتقاء شفافیت و جلب اعتماد عمومی نسبت به محتوای دیجیتال می‌باشد.
واترمارک نامرئی ChatGPT چگونه عمل می‌کند؟
واترمارک ChatGPT به شکل نامرئی و بدون استفاده از نمادهای بصری فعالیت می‌کند؛ این ویژگی با ایجاد تغییرات جزئی در انتخاب واژه‌ها به وسیله مدل، الگویی پنهان تولید می‌نماید که برای چشم انسان قابل تشخیص نیست اما سیستم‌های شناسایی می‌توانند آن را درک کنند. این واترمارک به دلیل ادغام در ساختار متن حتی در زمان کپی و پیست نیز در محتوای مرتبط حضور خواهد داشت و OpenAI تأکید کرده است که این امر به هیچ‌وجه منجر به افشای هویت کاربر نخواهد شد و هیچ تأثیری بر کارایی مدل‌های خود نخواهد گذاشت.
چالش‌ها و محدودیت‌های شناسایی محتوای تولید شده توسط هوش مصنوعی
بر اساس بررسی‌های انجام شده توسط OpenAI، واترمارک ChatGPT ممکن است با ویرایش محتوای متن از بین برود. به عنوان مثال، تغییر فقط ۱۰ درصد از واژه‌ها به مترادف‌ها به‌طور معنی‌داری قابلیت شناسایی را کاهش می‌دهد.
علاوه بر این، شناسایی متون کوتاه، پاسخ‌های ریاضی و محتوای ترجمه شده نیز با دشواری‌هایی مواجه است. OpenAI هشدار داده است که عدم وجود واترمارک لزوماً نشان‌دهنده‌ی تولید انسانی متن نیست، چراکه ممکن است متن به شدت ویرایش شده باشد یا از یک منبع هوش مصنوعی دیگر نشأت گرفته باشد.