واترمارک هوش مصنوعی چیست و چگونه می‌تواند به شناسایی محتوای تقلبی یاری رساند؟
بر اساس گزارش خبرگزاری خبرآنلاین، ممکن است تصویر تولیدشده یا صدای تقلیدشده از یک شخصیت مشهور در نگاه اول به‌نظر واقعی بیاید. با پیشرفت ابزارهای هوش مصنوعی مولد، تفکیک بین محتوای واقعی و مصنوعی برای کاربران، رسانه‌ها و پلتفرم‌های دیجیتال به‌مراتب سخت‌تر گردیده است.
یکی از شیوه‌هایی که به‌منظور روشن‌سازی منبع محتوا به‌کار گرفته می‌شود، واترمارک هوش مصنوعی است. این فناوری قابلیت ثبت نشانه‌ای در محتوا را دارد تا ابزارهای سازگار بتوانند آن را شناسایی کنند. با این حال، واترمارک نه‌تنها به‌عنوان حقیقت‌سنج خودکار عمل می‌کند، بلکه راهی صد در صد مطمئن برای شناسایی همه محتوای تولیدشده توسط هوش مصنوعی نیست.
واترمارک هوش مصنوعی چیست؟
واترمارک هوش مصنوعی یا AI Watermarking نشانه دیجیتالی است که در حین ایجاد محتوا یا پس از آن به فایل اضافه می‌شود تا شناسایی منشأ یا فرایند تولید و ویرایش آن آسان گردد.
واترمارک ممکن است به شکل نوشته یا لوگوی مشهود روی تصویر ظاهر شود، اما در فناوری‌های پیشرفته‌تر، می‌تواند به‌صورت الگویی در خود فایل تصویری، صوتی یا متنی جاسازی شود که به‌راحتی قابل تشخیص توسط چشم یا گوش انسان نیست. این الگو در اغلب موارد به وسیله ابزارهای سازگار قابل شناسایی می‌باشد.
واترمارک، فراداده و گواهی منشأ مطالب مفاهیم مرتبطی هستند، اما معادل یکدیگر نیستند:
- واترمارک نامرئی به‌صورت الگویی در محتوای دیجیتال گنجانده می‌شود.
- فراداده اطلاعاتی درباره فایل، همچون زمان ایجاد آن یا ابزارهای مورد استفاده، ارائه می‌دهد.
- گواهی منشأ ممکن است اطلاعاتی نسبت به سازنده یا سابقه ثبت شده ویرایش فایل به‌دست دهد.
این تکنیک‌ها می‌توانند به‌طور همزمان استفاده شوند، با این حال هر یک ویژگی‌ها و محدودیت‌های خاص خود را داراست.
واترمارک نامرئی چگونه کار می‌کند؟
تصویر، ویدئو و صدا
در تصاویر و ویدئوها، الگوریتم ممکن است تغییرات بسیار ریزی در الگوی پیکسل‌ها ایجاد کند. در فایل‌های صوتی نیز نشانه می‌تواند در سیگنال صدا جاگذاری شود. هدف از این کار این است که تغییر برای مخاطب به‌طور معمول قابل تشخیص نباشد، اما ابزار شناسایی قابلیت شناسایی الگوی مد نظر را داشته باشد.
مقاومت واترمارک نسبت به فشرده‌سازی، برش، کاهش اندازه یا ویرایش به تکنیک و فناوری به‌کار رفته بستگی دارد. بنابراین، نمی‌توان فرض کرد که هر واترمارکی پس از هر نوع تغییر نیز شناسایی می‌شود.
SynthID یکی از نمونه‌های معروف این فناوری است که توسط Google DeepMind برای شناسایی برخی محتواهای تولیدشده با ابزارهای تحت پشتیبانی گوگل توسعه یافته است. توانایی‌ها و دسترسی به این قابلیت‌ها ممکن است بسته به محصول و نوع محتوا متفاوت باشد. شناسایی یک واترمارک SynthID فقط به این معناست که نشانه‌ای مرتبط با این فناوری یافته شده است؛ نه اینکه تمامی محتواهای تولیدشده با هوش مصنوعی قابل شناسایی باشند.
متن
در برخی از روش‌های واترمارک‌گذاری متن، مدل احتمال انتخاب واژه یا توکن بعدی را به‌طرز کنترل‌شده‌ای تغییر می‌دهد. در نتیجه، الگویی آماری در متن ایجاد می‌شود که ممکن است برای خواننده نامشهود باشد، اما ابزارهای سازگار قادر به ارزیابی وجود آن خواهند بود.
نتیجه این روش به عواملی چون طول متن، مدل به‌کاررفته و مقدار ویرایش یا بازنویسی بستگی دارد. متون کوتاه یا متون به‌طور گسترده تغییر یافته ممکن است برای شناسایی نتیجه قابل اعتمادی نداشته باشند.
C۲PA و Content Credentials چه هستند؟
C۲PA مجموعه‌ای از استانداردهای فنی است که برای ثبت منشأ و تاریخچه محتوای دیجیتال طراحی شده است. Content Credentials عنوان ابتکاری است که این اطلاعات را در قالبی قابل‌بررسی از طریق کاربران و ابزارهای سازگار ارائه می‌دهد.
برخلاف واترمارک نامرئی که نشانه‌ای را در محتوای خود فایل جا می‌زند، اطلاعات C۲PA می‌تواند سوابق ثبت شده تولید یا ویرایش محتوا را به همراه فایل حفظ کند. این داده‌ها با مکانیزم‌های رمزنگاری محافظت می‌شوند تا تغییر غیرمجاز در آن‌ها مشخص گردد.
با این وجود، C۲PA به‌طور مستقل درباره درست یا نادرست‌بودن ادعای موجود در یک تصویر یا ویدئو داوری نمی‌کند. این استاندارد بیشتر در پاسخ به سؤالاتی نظیر «این فایل از کجا آمده است؟» یا «چه تغییراتی در آن ثبت شده است؟» کارآمد است.
وجود اطلاعات منشأ به این معنا نیست که تمام جزئیات ثبت‌شده یا هویت ذکر شده به‌طور مستقل تأیید شده‌اند. از طرفی، نبود گواهی C۲PA نیز به این معنا نیست که فایل جعلی است؛ ممکن است ابزار تولید یا ویرایش از این استاندارد پشتیبانی نکند یا اطلاعات فایل در حین انتقال حذف شده باشد.
واترمارک چه کمکی به تشخیص محتوای جعلی می‌کند؟
واترمارک و اطلاعات منشأ می‌توانند سرنخی برای تحقیقات بیشتر باشند. به‌عنوان نمونه، اگر تصویری یا صدایی با نشانه‌ای قابل شناسایی انتشار یابد، کاربر یا رسانه می‌توانند احتمال منشأ آن را به‌راحتی پیگیری کنند. این اطلاعات ممکن است در راستی‌آزمایی محتوایی که به یک فرد، رویداد خبری یا حادثه عمومی نسبت داده شده، مفید واقع شود.
دیگر اهمیت این فناوری، کمک به شفاف‌سازی درباره محتوای تولیدشده یا دست‌کاری‌شده با هوش مصنوعی است. در اتحادیه اروپا، ماده ۵۰ قانون هوش مصنوعی برای برخی گونه‌های محتوای تولیدشده یا ویرایش‌شده، الزامات شفافیت را وضع کرده است. دامنه این الزامات بسته به نوع سیستم و محتوا تعیین‌شده و شامل شرایط و استثناهای مشخصی است؛ بنابراین، نباید آن را به‌عنوان الزام یکسان برای تمام افراد به استفاده از نوع خاصی از واترمارک تلقی نمود.
واترمارک ممکن است همچنین در شناسایی منشأ آثار رسانه‌ای یا هنری یاری‌رسان باشد، اما به‌تنهایی نمی‌تواند مالکیت حقوقی اثر یا نقص حق مؤلف را ثابت کند. برای چنین استنتاج‌هایی، سوابق تولید و انتشار، قراردادها و قوانین مرتبط نیز باید مورد تحلیل قرار گیرند.
محدودیت‌های واترمارک چیست؟
وجود هیچ روش واحدی نمی‌تواند تمامی محتوای مصنوعی را شناسایی کند. تمامی ابزارهای هوش مصنوعی دارای واترمارک نیستند و برخی تغییرات، از جمله فشرده‌سازی یا ویرایش وسیع، ممکن است نشانه را تضعیف یا حتی از بین ببرند. ابزارهای تشخیص نیز ممکن است نتایج نامطمئن ارائه دهند.
عدم پشتیبانی پلتفرم‌ها از یک استاندارد یکتا نیز می‌تواند دسترسی به اطلاعات منشأ را با مشکل مواجه نماید. فراداده ممکن است در حین ویرایش، بارگذاری یا انتقال فایل از بین برود.
به این دلیل، واترمارک و گواهی منشأ از نظر اطلاعات شفافیت باید به‌عنوان لایه‌هایی مکمل محسوب گردند، نه جایگزینی برای بررسی منابع اصلی، زمان انتشار، زمینه محتوا و شواهد مستقل.
چگونه بفهمیم یک فایل واترمارک دارد؟
برای محتوای تولیدشده با ابزارهای پشتیبانی‌شده، می‌توان از قابلیت‌های شناسایی خود آن سرویس یا ابزارهای مناسب استفاده نمود. به‌عنوان مثال، برخی از قابلیت‌های خاص مرتبط با SynthID در محصولات گوگل یا ابزارهای شناسایی Content Credentials و C۲PA می‌توانند اطلاعاتی درباره نشانه یا منشأ ثبت‌شده فایل فراهم آورند. دسترسی و امکانات این ابزارها ممکن است بسته به محصول، منطقه و زمان متغیر باشد.
نتیجه این بررسی باید در کنار شواهد دیگر ارزیابی شود. شناسایی واترمارک الزاما نشان نمی‌دهد که تمامی بخش‌های محتوا غیرواقعی هستند یا ادعاهای موجود با آن صحیح یا نادرست است. همچنین، عدم شناسایی واترمارک هم نمی‌تواند دلیلی بر این باشد که محتوا توسط انسان تولید شده یا فایل اصیل است.
پرسش‌های متداول
آیا واترمارک کیفیت تصویر یا صدا را کاهش می‌دهد؟
بسیاری از واترمارک‌های نامرئی به‌گونه‌ای طراحی می‌شوند که کیفیت ادراک‌شده را حفظ کنند؛ اما نتیجه به فناوری و روش پیاده‌سازی بستگی دارد. نمی‌توان درباره تمامی روش‌ها حکم واحدی صادر کرد.
آیا می‌توان واترمارک را حذف کرد؟
برخی از واترمارک‌ها با هدف مقاومت در برابر تغییرات رایج طراحی شده‌اند، اما هیچ تضمینی وجود ندارد که در برابر تمامی انواع ویرایش باقی بمانند. احتمال تضعیف یا حذف نشانه به نوع فایل و فناوری به‌کاررفته بستگی دارد.
آیا همه ابزارهای هوش مصنوعی واترمارک دارند؟
خیر. روش استفاده از واترمارک و استانداردهای ثبت منشأ می‌تواند میان محصولات مختلف متفاوت باشد و ممکن است به ابزار، نسخه، نوع محتوا و الزامات مربوطه وابسته باشد.
آیا واترمارک ثابت می‌کند یک محتوا جعلی است؟
خیر. واترمارک ممکن است نشان‌دهنده این باشد که فایل با ابزار مشخصی تولید یا نشانه‌گذاری شده، اما به‌تنهایی نمی‌تواند درستی ادعاهای مطرح‌شده در محتوا را تعیین کند. برای ارزیابی دقیق‌تر، باید منابع و شواهد مستقل نیز مورد کنکاش قرار گیرند.
جمع‌بندی
واترمارک هوش مصنوعی یکی از ابزارهای کارآمد برای ارتقای شفافیت در ارتباط با منشأ محتوای دیجیتال محسوب می‌گردد. این تکنولوژی می‌تواند در کنار استانداردهای نظیر C۲PA اطلاعات ارزنده‌ای پیرامون تولید یا ویرایش فایل ارائه نماید؛ اما همچنان راهکاری بی‌نقص برای شناسایی تمامی محتوای مصنوعی و اثبات جعلی‌بودن یک فایل نیست.
زمانی که با تصاویری، صداها یا ویدئوهای مشکوک روبه‌رو می‌شویم، بهتر است تنها به یک نشانه اکتفا نکنیم. تحلیل منبع اصلی، اطلاعات منشأ، زمینه انتشار و شواهد مستقل به‌همراه واترمارک، به مراجع مربوط در تصمیم‌گیری هوشمندانه‌تر یاری می‌کند.
۵۷