فناوری کلون صدای هوش مصنوعی در سال‌های اخیر به شکلی شگفت‌انگیز پیشرفت کرده است و به جای آنکه تنها یک فرآیند فنی پیچیده باشد، به ابزاری قابل دسترس برای عموم تبدیل شده است. این گسترش در دسترسی، همراه با قابلیت تولید صداهایی به شدت طبیعی، نگرانی‌ها را درباره احتمال سوءاستفاده، به ویژه در زمینه کلاهبرداری‌های مالی، به طرز قابل توجهی افزایش داده است. در نتیجه، توانایی شناسایی فایل‌های صوتی جعلی که از طریق هوش مصنوعی تولید شده‌اند، به یک نیاز اجتناب‌ناپذیر تبدیل شده است.
تکامل چشمگیر کلون صدای هوش مصنوعی
فقط سه سال پیش، برای شبیه‌سازی دقیق یک صدا نیاز به ساعت‌ها ضبط و مجموعه‌ای از ابزارهای تخصصی بود؛ اما اکنون این فرآیند می‌تواند تنها با چند ثانیه از ورودی صوتی و چند کلیک ساده انجام شود و تشخیص جعلی بودن آن حتی برای کارشناسان نیز دشوار است. سارا بارینگتون، پژوهشگر کلون صدای هوش مصنوعی در دانشگاه کالیفرنیا، برکلی، توضیح می‌دهد که پلتفرم‌های آنلاین قادرند با استفاده از تنها سه ثانیه از صدای شخصی، نسخه‌ای کاملاً مشابه ایجاد کنند.
او نمایان می‌سازد که چگونه می‌توان در مدت ۹۰ ثانیه صدای یک سخنران را تنها از یک ویدیو در یوتیوب شبیه‌سازی کرد. این سادگی دسترسی باعث جلب توجه کلاهبرداران شده است؛ به‌طوری‌که رویترز در سپتامبر گذشته گزارشی از یک فرد منتشر کرد که با استفاده از صدای کلون شده موفق شد یک بانک بزرگ خصوصی در ایتالیا را متقاعد کند تا حدود ۹۵ میلیون یورو (معادل ۱۰۵ میلیون دلار) را به خارج از کشور منتقل کند.
چرا انسان‌ها در تشخیص صدای هوش مصنوعی ضعیف هستند؟
گوش‌های ما در کل قابلیت محدودی در تشخیص تفاوت بین صداهای واقعی و کلون شده دارند. در یک پژوهش، بارینگتون و همکارانش صدای ۲۲۰ سخنران واقعی و کلون شده را برای بیش از ۶۰۰ شنونده پخش کردند. نیمی از شنوندگان تنها توانستند در ۶۰ درصد مواقع صداهای تولیدی توسط هوش مصنوعی را به درستی شناسایی کنند. در یک آزمایش دیگر، هنگامی که نیمی از شنوندگان یک صدای کلون شده و یک صدای واقعی را به‌طور هم‌زمان شنیدند، در حدود ۸۰ درصد مواقع آنها را متعلق به یک شخص دانستند. در گذشته، صداهای شبیه‌سازی شده عموماً بیش از حد بی‌نقص و غیرطبیعی به نظر می‌رسیدند و فاقد مکث، نفس‌کشی یا تکرار کلماتی مانند «اوه» و «اوم» بودند. اما امروزه، هوش مصنوعی به عمد این «مشکلات گفتاری» را به محتوای خود اضافه می‌کند تا جذابیت کلامی آنها را بالا ببرد. به همین دلیل پژوهشگران در حال آموزش مدل‌های هوش مصنوعی برای شناسایی صداهای کلون شده بر اساس ویژگی‌های مرتبط با خود موج صوتی هستند، در فرآیندی که به «فورسیک صوتی» معروف است.
ابزارهای تخصصی برای شناسایی صداهای تولید شده توسط AI
با تحلیل شکل موج صدای یک نمونه، می‌توان به وضوح کوچک‌ترین نوسانات تارهای صوتی را به صورت تکراری در سیگنال مشاهده کرد. نوسانات ظریف در این چرخه‌ها، که به جیتر (Jitter) معروف هستند، و تغییرات ارتفاع اوج‌ها، که به شیمر (Shimmer) شهرت دارند، از جمله نشانه‌هایی هستند که یک مدل می‌تواند برای تشخیص صدای هوش مصنوعی به‌کار گیرد. با این حال، حتی بهترین ردیاب‌ها نیز نقاط ضعف خاصی دارند. مدل‌های هوش مصنوعی ممکن است به منظور شناسایی الگوهای خاص یک ابزار کلونینگ طراحی شوند، اما این توانایی معمولاً نمی‌تواند به سایر نرم‌افزارها منتقل شود.
به‌عنوان مثال، تحلیل طیفی (Spectral Analysis) می‌تواند ویژگی‌های خاص ابزارهای کلونینگ را نشان دهد، اما هیچ استانداردی وجود ندارد که برای همگی آنها موثر باشد. سارا بارینگتون تصریح می‌کند که هیچ اندازه‌گیری單 particular نمی‌تواند جعلی بودن یک ضبط را به‌طور قطعی اثبات کند و بنابراین به استفاده از مجموعه‌ای از ابزارها نیاز است. تلفن‌های همراه نیز با خراب کردن یا کاهش جزئیات حیاتی صوتی، تشخیص صداهای کلون شده را دشوارتر می‌کنند.
واترمارکینگ: راهکاری نوین و امیدبخش
در حال حاضر، یکی از امیدبخش‌ترین راهکارها برای شناسایی صداهای کلون شده از واقعی، در بطن خود فناوری کلونینگ نهفته است. برخی از شرکت‌هایی که ابزارهای صوتی هوش مصنوعی تولید می‌کنند، از جمله گوگل، یک واترمارک نامحسوس و غیرقابل شنیداری را در صدای تولید شده قرار می‌دهند. این واترمارک تغییرات جزئی در کل صدا ایجاد می‌کند که آن‌قدر ضعیف هستند که با گوش انسان قابل تشخیص نیستند، اما توسط یک ردیاب ویژه قابل خواندن هستند و با فایل صوتی در هر جایی که به اشتراک گذاشته می‌شود، همراه خواهند بود. اگرچه این واترمارک‌ها تاثیرگذار هستند، اما به‌طور کامل بی‌نقص نیستند؛ ممکن است که با تغییراتی در ضبط، این علامت حذف شود. همچنین، در بعضی از برنامه‌های متن‌باز که این واترمارک‌ها را ارائه می‌دهند، استفاده از آنها اختیاری است. ولی بارینگتون خاطرنشان می‌کند که یک واترمارک مؤثر می‌تواند "۹۹ درصد از موارد متقلبانه را حذف کند" و برای بقیه موارد، تکنیک‌های فارنزیک صوتی باید به‌سرعت با پیشرفت ابزارهای کلونینگ هماهنگ شوند.