با رشد فزاینده‌ی ابزارهای هوش مصنوعی مولد، تشخیص تفاوت بین محتوای واقعی و مصنوعی به یک چالش جدی تبدیل شده است. در پاسخ به این نیاز، گوگل ابزار جدیدی به نام SynthID Detector را برای شناسایی واترمارک‌های هوش مصنوعی در محتوای تولیدشده با این فناوری معرفی کرده است. این تکنولوژی از سال ۲۰۲۳ به کار افتاده و اکنون برای استفاده عموم در دسترس قرار دارد.
نحوه عملکرد ابزار تشخیص هوش مصنوعی گوگل
سامانه SynthID گوگل به‌طور نامرئی واترمارکی را در کلیه محتواهای تولیدی توسط هوش مصنوعی قرار می‌دهد. ابزار SynthID Detector با بررسی این واترمارک، وجود یا عدم وجود آن را کشف می‌کند. برای استفاده از این ابزار، به وب‌سایت SynthID.com مراجعه کرده و فایل تصاویر، ویدیوها یا صداهای خود را بارگذاری کنید تا نتایج بررسی مشخص شوند. همچنین این ابزار قادر است تا واترمارک‌های موجود در محتواهای شرکای SynthID از جمله OpenAI، NVIDIA و Kakao را شناسایی نماید. در حال حاضر، توسعه‌ی پشتیبانی از محتوای Apple نیز در دست اقدام است.
اعتبار و محدودیت‌های SynthID Detector
SynthID Detector با تحلیل واترمارک، احتمال بروز مثبت کاذب را به حداقل می‌رساند. با این حال، این ابزار محدودیت‌هایی نیز دارد: نمی‌تواند محتوای تولیدشده‌ی AI که فاقد SynthID هستند (مانند برخی ابزارهای Meta) را شناسایی کند. به‌علاوه، فقط وجود واترمارک را تأیید می‌کند و اطلاعاتی درباره جزئیات بخش‌های تولیدشده توسط هوش مصنوعی ارائه نمی‌دهد. گوگل تصریح کرده است که امضای SynthID حتی پس از ویرایش محتوا نیز حفظ می‌شود. به‌منظور جلوگیری از سوءاستفاده، هر کاربر به ۱۰ بررسی در روز محدود شده و برای استفاده از آن باید با حساب گوگل، OpenAI یا Apple خود وارد شود.
مقایسه SynthID Detector با سایر ابزارهای تشخیص هوش مصنوعی
با وجود محدودیت‌های موجود، SynthID Detector به‌عنوان یکی از مطمئن‌ترین ابزارها برای تشخیص هوش مصنوعی گوگل به شمار می‌رود. OpenAI نیز ابزار خاص خود را دارد که به شناسایی فراداده و واترمارک‌های SynthID می‌پردازد. متا هم واترمارک Content Seal را در تولیدات مبتنی بر هوش مصنوعی خود استفاده کرده، اما گاهی ابزار وب آن در شناسایی ناکام می‌ماند. همچنین، آنتروپیک و مایکروسافت نیز محتوای هوش مصنوعی را واترمارک گذاری می‌کنند، هرچند که ابزار عمومی برای تشخیص ارائه نمی‌دهند. نکته‌ی کلیدی این است که هیچ ابزار قابل اعتمادی برای شناسایی کلیه محتوای تولیدشده با هوش مصنوعی به طور جامع وجود ندارد. ابزارهای عمومی و آزاد، معمولاً نتایج غیرقابل اعتمادی را ارائه می‌دهند و گاهی محتوای انسانی را به اشتباه به‌عنوان محتوای هوش مصنوعی شناسایی می‌کنند.