طبق گزارش خبرگزاری خبرآنلاین، ماجرای «دایناسور خراسان» ممکن است در نگاه ابتدایی یک شوخی دیجیتال به نظر برسد، اما در حقیقت نکتهای جدیتر را نمایان میسازد: در دوران هوش مصنوعی، دیگر نمیتوان با تکیه بر دیدن یک عکس، در مورد حقیقت آن قضاوت کرد.
چند سال پیش، اغلب کاربران یک تصویر را به عنوان یک مدرک معتبر تلقی میکردند؛ و اگر چیزی را در عکس میدیدیم، بهطور خودکار فرض میکردیم که دوربینی در جایی آن را ثبت کرده است. اما ابزارهای تولید تصویر، این قاعده را دستخوش تغییر کردهاند. اکنون میتوان تصویری تولید کرد که در آن یک انسان، حیوان یا حتی یک واقعه کاملاً تخیلی در فضایی واقعگونه و با دقت بالا به نمایش درآمده باشد، درحالیکه هیچیک از آنها واقعاً در آن مکان وجود نداشته باشند.
از این رو، باید از خود پرسید: «این تصویر از کجا نشأت گرفته و چه مدارکی برای اثبات واقعی بودن آن وجود دارد؟»
البته بررسی بصری هنوز هم میتواند سرنخهایی برای ما فراهم آورد. جزئیات غیرطبیعی، متون نامعمول، اشیایی که با قوانین فیزیک سازگار نیستند، سایههای نامتناسب یا بخشهایی از تصویر که بیش از حد بهنظر ساختگی میرسند، میتوانند علامت خطر به شمار آیند.
اما مشکل این است که این نشانهها دیگر به عنوان «تست قطعی» قابل اعتماد نیستند. مدلهای نوین تولید تصویر، بسیاری از خطاهای مرسوم در تصاویر مرتبط با هوش مصنوعی را از بین بردهاند. بنابراین، اگر یک تصویر بهطور کامل طبیعی به نظر میرسد، این به تنهایی نمیتواند دلیلی بر اصالت آن باشد.
اولین سؤال: چه کسی تصویر را منتشر کرده است؟
برای خبرنگار یا کاربری که با یک تصویر عجیب روبهرو میشود، مهمترین گام شاید وابسته به تکنولوژی نباشد. در ابتدا باید منبع اصلی را شناسایی کرد. چه کسی این تصویر را ثبت کرده؟ آیا هویت عکاس مشخص است؟ نخستین بار چه رسانه یا حساب کاربری آن را منتشر کرده است؟ آیا مشخصاتی از زمان و مکان ثبت تصویر وجود دارد؟ آیا فرد منتشرکننده به عنوان شاهد ماجرا شناخته شده است؟
در داستان دایناسور خراسان، این موضوع اهمیت خاصی دارد. خود تصویر نمیتواند به تنهایی ثابت کند که موجودی ناشناخته در طبیعت مشاهده شده است؛ برای چنین ادعایی نیاز به شواهد مستقل دیگری وجود دارد.
جستوجوی معکوس؛ ردپای تصویر را دنبال کنید
یکی از تکنیکهای کلیدی در راستیآزمایی، یافتن نسخههای قدیمیتر یا مشابه از یک تصویر است. اگر تصویر ادعا کند که امروز در یک مکان خاص ثبت شده اما نسخهای مشابه از آن تصویر ماهها یا سالها قبل در منبع دیگری منتشر شده باشد، اعتبار این ادعا زیر سوال میرود.
در این مرحله، به جای اینکه صرفاً نکته را به این سادگی بگذاریم که «عکس واقعی است یا نه»، باید تاریخچه انتشار آن را مورد بررسی قرار دهیم. این روش بخصوص برای تصاویری که در شبکههای اجتماعی بدون ذکر منبع منتشر میشوند، اهمیت زیادی دارد.
متادیتا؛ شناسنامهای که همواره وجود ندارد
تصاویر دیجیتال ممکن است اطلاعاتی در مورد چگونگی ایجاد یا ویرایش خود درون داشته باشند. در فناوریهای نوین، استانداردهایی نظیر C۲PA و Content Credentials تلاش دارند تا اصل و سوابق تغییرات یک فایل را ثبت کنند. این اطلاعات قادر است کاربران را مطلع کند که یک محتوا چگونه ایجاد یا ویرایش شده و چه ابزارهایی در پروسه تولید آن دخالت داشتهاند.
با این حال نکتهای که باید به آن توجه شود: نبود اطلاعات منبع به معنای واقعی بودن تصویر نیست.
ممکن است فایل از یک شبکه اجتماعی دانلود شده، به صورت اسکرینشات گرفته شده یا در فرایند تبدیل و فشردهسازی، بخشی از اطلاعات آن از بین رفته باشد. بنابراین، متادیتا تنها یک نشانه مهم به شمار میآید، نه حکم نهایی.
واترمارکهای نامرئی وارد عرصه شدهاند
شرکتهای فناوری به منظور مقابله با این مشکل به روشهایی روی آوردهاند که برای چشم انسان قابل دیدن نیستند. یکی از نمونهها SynthID شرکت گوگل است؛ فناوری که سیگنال نامرئی را در محتوا تولید شده توسط برخی مدلها و محصولات هوش مصنوعی درج میکند و امکان شناسایی آن را ممکن میسازد. گوگل ادعا میکند که SynthID به صورت گسترده برای تصاویر و ویدیوهای تولید شده توسط ابزارهای آن به کار گرفته میشود.
OpenAI نیز ابزاری برای بررسی منبع تصاویر ارائه کرده که قادر است به دنبال نشانههایی مانند C۲PA و SynthID مرتبط با ابزارهای OpenAI بگردد. اما در اینجا نیز یک اشتباه رایج وجود دارد: اگر چنین ابزاری نشانهای پیدا نکند، نمیتوان نتیجهگیری کرد که تصویر حتماً واقعی است.
این احتمال وجود دارد که تصویر با ابزاری دیگر تولید شده یا اطلاعات مرتبط با منبع آن از بین رفته باشد.
از هوش مصنوعی با هوش مصنوعی تشخیص دهیم؟
ابزارهای شناسایی تصویر تولید شده با هوش مصنوعی میتوانند در فرایند راستیآزمایی یاریرسان باشند، اما نباید آنها را بهعنوان «دستگاه دروغسنج تصویر» تصور کرد.
بهترین روش، به کارگیری چند لایه از بررسی است: منبع تصویر + سابقه انتشار + اطلاعات منبع + بررسی فنی + شواهد مستقل
هر چه این لایهها بیشتر یکدیگر را تأیید کنند، سطح اطمینان ما افزایش مییابد. در واقع، آینده راستیآزمایی تصویر بیشتر به ایجاد یک فرآیند چندمرحلهای وابسته است تا پیدا کردن «یک ابزار جادویی».
چکلیستی برای بازنشر
پیش از اینکه یک تصویر عجیب و جالب را در شبکههای اجتماعی بازنشر کرده یا به خبر تبدیل کنیم، باید به چند سؤال ساده توجه کنیم که میتواند از انتشار اطلاعات نادرست جلوگیری نماید:
- منبع اولیه تصویر چیست؟
- آیا هویت شخص یا نهادی که ادعا میشود تصویر را ثبت کرده، مشخص است؟
- آیا نسخه قدیمیتر یا مشابهی از تصویر وجود دارد؟
- آیا تصویر دارای اطلاعات منبع یا Content Credentials است؟
- آیا نشانهای از تولید یا ویرایش با هوش مصنوعی قابل مشاهده است؟
- آیا منبع مستقل، خود رویداد را تأیید کرده است؟
- آیا آنچه در تصویر نشان داده شده با واقعیتهای علمی، جغرافیایی و زمانی سازگاری دارد؟
از «عکس واقعی» به «منشأ قابل اعتماد»
ماجرای دایناسور خراسان نمونهای کوچک از تغییرات عظیمی است که هوش مصنوعی در عرصه رسانهای بهوجود آورده است. موضوع دیگر صرفاً ایجاد تصاویر نادرست نیست؛ بلکه فرایند مرز بین تصویر و واقعیت در حال بههم ریختن است. در چنین شرایطی، سواد رسانهای دیگر تنها به تشخیص یک تصویر عجیب یا شناسایی نواقص در دستها و صورتها محدود نمیشود. کاربر و بهخصوص خبرنگار باید بتوانند منبع محتوا، مسیر انتشار، شواهد موجود و نشانههای فنی را برای سنجش اصالت بررسی کنند.
زمانی که حتی متخصصان نیز ممکن است فریب بخورند
با این حال، نکته فقط این نیست که عکسهای تولید شده با هوش مصنوعی چقدر واقعی بهنظر میرسند؛ چالش بزرگتر این است که این فناوری میتواند فرآیند استدلال مخاطب را نیز تحت تأثیر قرار دهد.
ستاره بنیادی، دکتری در رشته ارتباطات علم و فناوری، در کافه خبر به همین نکته اشاره کرده و میگوید که هوش مصنوعی از بنیاد ذهن انسان را درگیر میکند و میتواند محتوایی تولید کند که به ظاهر سرشار از استدلالها و نشانههای منطقی باشد؛ بهطوری که همزمان «سیستم شماره دو» مغز و قوه استدلال مخاطب را درگیر کند و به همین خاطر، تمایز بین واقعیت و جعل دشوارتر شود.
او به اختلاف این شرایط با الگوی سنتی اخبار جعلی اشاره کرده و میگوید: «در الگوی سنتی اخبار جعلی، ما به مخاطبان پیشنهاد میکردیم که فکر پرسشگرانه داشته باشند؛ مثلاً بپرسند آیا تصویر با متن همخوانی دارد؟ یا منبع اصلی این محتوا چیست؟ اما اکنون نشانهگذاریهای متنی و محتوایی با هوش مصنوعی به سمتی رفته که باورپذیری به حداکثر رسیده است.»
به گفته بنیادی، این سطح از باورپذیری فقط میتواند مخاطبان عادی را در معرض اشتباه قرار ندهد، بلکه حتی متخصصان و رسانههای حرفهای نیز ممکن است در دام محتوای تولید شده با هوش مصنوعی بیفتند؛ رسانههایی که سالها برای کسب اعتبار و اعتماد مخاطب تلاش نمودهاند.
او تأکید میکند که این اشتباه حتی ممکن است به شکلی سیستمی و نهادی به وقوع بپیوندد؛ موضوعی که کنترل و مهار آن به مراتب دشوارتر است. بنابراین، موضوع تشخیص محتوای جعلی دیگر به توانایی یک کاربر در یافتن ایرادات در یک تصویر محدود نمیشود.
در واقع، اگر از منظر مصرفکننده محتوا به این موضوع نگاه کنیم، هوش مصنوعی با تولید محتوای قابل باور از نظر بصری و استدلالی، فرآیند تشخیص حقیقت را پیچیدهتر کرده است. این تغییر باعث میشود که در مواجهه با یک تصویر، حتی اگر کاملاً واقعی به نظر برسد، تنها به چشمان خود یا قوه تشخیص شخصی بسنده نکنیم؛ بلکه باید منبع، منشأ، تاریخچه انتشار و شواهد مستقل آن را نیز مورد بررسی قرار دهیم.
۲۲۷۲۲۷
نظرات کاربران