سرویس جدید گوگل برای شناسایی محتوای هوش مصنوعی به راه افتاد

بر اساس گزارش ایسنا، شرکت گوگل ابزار آنلاین تازه‌ای به نام «SynthID Detector» را معرفی کرده که به منظور شناسایی محتوای تولید یا تغییر یافته با هوش مصنوعی طراحی شده و حالا در دسترس عموم قرار دارد.

این ابزار قابلیت شناسایی تصاویر، ویدیوها و فایل‌های صوتی تولید شده با فناوری هوش مصنوعی مختلف، از جمله ابزارهای خود گوگل، اوپن‌ای‌آی(OpenAI)، آنتروپیک(Anthropic)، انویدیا(NVIDIA) و دیگر برندها را داراست.

استفاده از این ابزار رایگان می‌باشد، ولی کاربران نیاز دارند تا با حساب کاربری گوگل، اوپن‌ای‌آی یا اپل خود وارد شوند.

این وب‌سایت به عنوان یکی از نخستین ابزارهایی شناخته می‌شود که توانایی تشخیص تصاویر تولید شده با ویژگی‌های هوش مصنوعی اپل، از جمله گزینه «Image Playground» را دارد. گوگل اعلام نموده که به زودی پشتیبانی از تصاویر ایجاد یا ویرایش شده به وسیله «هوش اپل» (Apple Intelligence) نیز افزوده خواهد شد.

گوگل برای توسعه «SynthID Detector» بیش از یک سال زمان صرف کرده و نسخه‌های اولیه آن پیش از این برای روزنامه‌نگاران و کارشناسان رسانه عرضه شده بود. اکنون هر فرد می‌تواند با مراجعه به وب‌سایت synthid.com بررسی کند که آیا محتوای مورد نظر از واترمارک SynthID برخوردار است یا خیر.

این شرکت همچنین دارای روش‌های دیگر برای شناسایی واترمارک‌های SynthID و گواهی‌های محتوایی C2PA است که شامل قابلیت «Circle to Search» و اپلیکیشن جمینای(Gemini) می‌شود. با این حال، ایجاد یک وب‌سایت مخصوص برای این هدف دسترسی به این ویژگی‌ها را به ویژه برای کاربرانی که از ابزارهای هوش مصنوعی گوگل استفاده نمی‌کنند، آسان‌تر نموده است.

مانند تمامی قابلیت‌های مربوط به تشخیص هوش مصنوعی، این ابزار نیز محدودیت‌هایی دارد. ابزار SynthID Detector نمی‌تواند تمامی محتواهای تولید شده با هوش مصنوعی را شناسایی کند، زیرا شرکت‌های مختلف از استانداردهای متنوعی برای واترمارک‌گذاری استفاده می‌نمایند. همچنین در برخی از موارد، این امکان وجود دارد که واترمارک از محتوا حذف شود.

علاوه بر این، وب‌سایت گوگل تفاوتی میان محتوای کاملاً تولید شده توسط هوش مصنوعی و محتوای صرفاً ویرایش شده به واسطه آن قائل نمی‌شود. به همین دلیل، نمی‌تواند جزئیات دقیقی درباره چگونگی خلق یک محتوای خاص یا این که کدام بخش‌های آن ممکن است به صورت مصنوعی تولید شده باشند، ارائه دهد.

اگرچه SynthID Detector قدمی به سوی درست در این راستا محسوب می‌شود، اما هنوز به دست‌یابی به راهکاری بی‌نقص برای راستی‌آزمایی محتوای تولید شده با هوش مصنوعی فاصله زیادی دارد.

ابزارهای تشخیص هوش مصنوعی همچون SynthID Detector به متغیرهایی از استانداردهای مختلف متکی هستند و بر این اساس، ابزار واحد و جامع که بتواند تمام موارد را پوشش دهد، وجود ندارد.

به عنوان نمونه، شرکت متا در حال آزمایش ابزاری تحت وب است که می‌تواند تصاویر تولید شده یا ویرایش شده با جدیدترین مدل‌های «Muse Image» خود را شناسایی کند، اما توانایی شناسایی تصاویر سایر شرکت‌ها یا حتی مدل‌های پیشین خود را ندارد.

به نظر می‌رسد که گوگل به تدریج شرکت‌های بیشتری را به SynthID افزوده و همکاری‌های خود را گسترش خواهد داد. این شرکت پیش‌تر اعلام کرده بود که ElevenLabs متعهد به اضافه کردن پشتیبانی از واترمارک‌ها شده است. گوگل در وب‌سایت خود تصریح می‌کند که به طور مداوم در حال تقویت همکاری‌ها برای شناسایی رسانه‌های تولید شده بیشتر می‌باشد.

انتهای پیام