فرصتها و تهدیدهای ورود هوش مصنوعی به حرفه خبرنگاری
هوش مصنوعی طی سالهای اخیر، به یکی از تعیینکنندهترین نیروهای تغییر در صنعت رسانه بدل شده است؛ فناوریای که از دلِ جمعآوری و تحلیل دادهها وارد جریان خبر میشود و سپس در مراحل تولید، شخصیسازی و توزیع نیز ایفای نقش میکند. نتیجه این ورود، دگرگونی در شیوههای جاافتاده خبرنگاری است؛ دگرگونیای که هم فرصت میآفریند و هم خطر. در کنار این امکانات رو به رشد، مسائلی مانند خطا و توهم اطلاعاتی، سوگیریهای ناشی از الگوریتمها، پدیده دیپفیک و مسئولیت اخلاقی خبرنگار، اکنون بیش از گذشته به مرکز توجه آمدهاند. در این گفتوگو، به بررسی فرصتها و تهدیدهای حضور هوش مصنوعی در حوزه خبرنگاری و همچنین الزامات اخلاقیِ بهکارگیری آن پرداخته شده است.
محمدرضا قاسمی، عضو شورای هوش مصنوعی در حوزههای علمیه، در گفتوگو با ایسنا به این چالشها پرداخته است؛ متن کامل این گفتوگو را در ادامه میخوانید:
ایسنا: چند سال است که داغترین بحث فناوری، پیدایش هوش مصنوعی است. از نگاه شما، این پدیده، با ورود به عرصه خبر و رسانه چه رویدادهایی را رقم خواهد زد؟ در آغاز بحث از فرصتهای آن صحبت کنیم.
اجازه بدهید بیتعارف بگویم: هوش مصنوعی صنعت خبر را دگرگون کرده و موج تغییراتش از این هم تندتر خواهد شد. اگر کسی هنوز در اصل این تحول تردید دارد، احتمالاً در دنیای دیگری سیر میکند. کارکرد بنیادین هوش مصنوعی، پردازش دادهها و محتوای متنی، صوتی و تصویری است؛ و خبر نیز درست در همین چارچوب تولید و مصرف میشود. به همین دلیل، اتاق خبر بهطور جدی زیر و رو میشود. این تغییر را میتوان در سه لایه یا سه سطح جداگانه دید: سطح دادهکاوی، سطح تولید محتوا و سطح توزیع خبر.
در مرحله جمعآوری و پردازش، با حجم عظیمی از دادههای بیساختار روبهرو هستیم؛ دادههایی که بدون ابزارهای هوشمند عملاً قابل مدیریتِ سریع نیستند. در این نقطه، توان مدلهای مولد مبتنی بر ترانسفورمرها—مثل GPT—یا مدلهای چندوجهی به میدان میآید. یک خبرنگار سنتی معمولاً ساعتها زمان صرف خواندن متنهای طولانی مثل صورتجلسههای هزار صفحهای یا دنبالکردن خوراکهای خبری (RSS) میکند؛ اما الگوریتمهای پردازش زبان طبیعی با تکیه بر روشهایی مانند خلاصهسازی انتزاعی و استخراج موجودیتها، میتوانند در زمانی بسیار کوتاه، هسته اصلی یک رویداد را بیرون بکشند.
در بخش بازخوردگیری هم ماجرا همینطور است. با تحلیل احساسات بر روی شبکههای اجتماعی میشود موجهای پنهان و اولیه واکنش عمومی را پیش از آنکه به یک توفان خبری تبدیل شوند، رصد کرد. به بیان دیگر، «خبر» دیگر صرفاً چیزی نیست که یک منبع رسمی در اختیار شما بگذارد؛ هوش مصنوعی به خبرنگار امکان میدهد سیگنال را از میان انبوه نویزِ جهان اطلاعات جدا کند.
ایسنا: آیا این موضوع بیشتر به دادهکاوی مربوط میشد؟
بله؛ یعنی استخراج اطلاعات از دلِ دادههای قابل مشاهده و آشکار. اما این پایان ماجرا نیست. هوش مصنوعی در سطح تولید محتوا و شکلدهی به خودِ «خبر» نیز یک دگرگونی واقعی ایجاد کرده است. از نمونههای برجستهاش میتوان به تولید خبر در حوزه بورس، پیشبینی مسابقات ورزشی و نیز اطلاعرسانیهای مرتبط با هواشناسی اشاره کرد. هوش مصنوعی با اتکا به الگوهای رویدادهای گذشته، میتواند سناریوهای آینده را حدس بزند.
با این حال، چیزی که امروز کمتر کسی میتواند انکارش کند و تقریباً در همه جا بحثش شنیده میشود، توانایی هوش مصنوعی در «تولید چندرسانهای» است. اکنون بسیاری از خبرنگاران میتوانند با مدلهای تبدیل متن به تصویر، اینفوگرافیکهای چشمنواز و انیمیشنهای جذاب طراحی کنند؛ یا با ابزارهای تبدیل متن به گفتار، روایت صوتی خبر را با لحنهای طبیعی برای مخاطبان خاص—برای نمونه، جامعه نابینایان—تهیه کنند. حتی همین ابزارها میتوانند زمینه ساخت پادکستهای خودکار را هم فراهم کنند.
علاوه بر همه این موارد، یک قابلیت دیگر در خبر و انتشار خبر وجود دارد که شاید کمتر از آن گفته شود: سطح سوم، یعنی سطح توزیع. هوش مصنوعی میتواند خبر را شخصیسازی کند؛ یعنی به جای تولید یک نسخه واحد از خبر، هزاران نسخه از همان خبر ساخته و منتشر شود؛ نسخههایی با زاویه دید متفاوت، عمق تحلیل مختلف و طول متنی متناسب با سلایق گوناگون. به این ترتیب، مخاطب با محتوایی روبهرو میشود که برای او تنظیم شده است، نه صرفاً یک پیام عمومی.
ایسنا: میتوانید ابعاد بحث آخر را بیشتر توضیح دهید؟
حتماً. این بخش از آن مواردی است که هنوز آنچنان مورد توجه عمومی قرار نگرفته، اما بهزودی نگاه به خبر و خبرنگاری را تغییر میدهد. تصور کنید متن خبر صرفاً یک چیز بیشتر نیست: خبری که خبرنگار آن را تهیه کرده، دبیر سرویس هم تأییدش کرده و آماده انتشار شده است. حالا خبرگزاری با مخاطبانی مواجه است که از سنین پایین تا سنین بسیار بالا گستردهاند، با میزان تحصیلات متفاوت، با جهتگیریهای گوناگون سیاسی و اقتصادی؛ حتی با تنوع لهجهها و گویشها. در چنین شرایطی، یک ابزار هوش مصنوعی میتواند متن خبر را با سرعت بالا ویرایش کند و از دل همان متن واحد، نسخههای متعددی بسازد. مثلاً برای گروههای سنی پایینتر، مقدار خشونت یا لحنهای تند خبر را کاهش دهد. یا برای مخاطبان تحصیلکرده، متن را خلاصهتر کرده و از اصطلاحات تخصصیتر استفاده کند.
جالبتر از همه اینکه ابزار هوش مصنوعی با تحلیل بازخوردهای مخاطبان میتواند سلیقههای واقعی آنها را شناسایی کند و در ویرایشهای بعدی لحاظ کند. در چنین سازوکاری، یک خبرگزاری قادر است چندین پایگاه خبری را به شکل یکپارچه مدیریت کند و برای همه مخاطبان، بهصورت خودکار محتوا تولید کند؛ به نحوی که هر سایت خبری متناسب با بخشی از مخاطبان خروجی متفاوتی ارائه دهد. یا حتی کانالهای خبری متعددی در پیامرسانها داشته باشد و هر مخاطب وارد یکی از آنها شود تا محتوایش دقیقتر و نزدیکتر به نیاز او باشد.
ایسنا: اما این همه قابلیت، یک روی دیگر هم دارد. وقتی سرعت تولید به این حد میرسد و ماشینها شروع به گفتن «خبر» میکنند، خط قرمزهای دقت و اعتبار کجا میروند؟ چه چالشهای بنیادینی پیش روی صحت خبر قرار میگیرد؟
بله، درست به بخش هشدار رسیدهایم. نخستین چالش، پدیده «توهّم زبانی» یا Hallucination در مدلهای بزرگ زبانی است. این مدلها بر اساس احتمالات کار میکنند؛ یعنی یک واژه را بر مبنای بیشترین احتمال آماری که پس از واژه قبلی میآید انتخاب میکنند، نه بر اساس فهم واقعیِ آنچه حقیقتاً رخ داده است. بنابراین ممکن است مدلها با اطمینان ظاهری بالا، نقل قول یا آماری جعلی را به یک فرد مشخص نسبت دهند؛ در حالی که آن اتفاق هرگز رخ نداده است.
برای خبرنگاری که در ذهنش «حقیقتیابی» جایگاه مرکزی دارد، این موضوع یک فاجعه است؛ چون وقتی خبر بهصورت انبوه تولید شود، ممکن است آمیختهای از واقعیت و خیالپردازی آماری ماشین وارد چرخه انتشار شود.
چالش دوم، و حتی خطرناکتر، مسئله «همگنسازی» و «سوگیری دادههای ترینینگ» است. الگوریتمها هنگام آموزش (AI Training) با مجموعه دادههای بسیار بزرگی روبهرو هستند که غالباً زبان انگلیسی و سلیقهها و فرهنگ کشورهای خاص در آن پررنگتر است. به همین دلیل، هوش مصنوعی میتواند—حتی بدون قصد—یک «سوگیری شناختی ناخودآگاه» را وارد فرایند تولید خبر کند. خبری که توسط یک دستیار هوشمند بازنویسی میشود، ممکن است ناخواسته روایت غالب فرهنگ غربی را ترویج کند یا قالبهای شرقی و بومی را کنار بزند.
چالش سوم هم «شکنندگی زنجیره اعتماد» است. وقتی یک خبر با کمک هوش مصنوعی تولید میشود، نویسنده انسانی در کار نیست! مخاطب حق دارد بداند چه کسی مسئول تهیه خبر بوده است. افزون بر این، چون هوش مصنوعی اغلب به شکل جعبهسیاه عمل میکند، مسیر ارجاع دادهها (Citation) روشن نیست و خبرنگار نمیتواند به مخاطب نشان دهد هر بخش از متن، دقیقاً از کدام منبع اولیه آمده است. بنابراین اعتبار خبر در چشم مخاطب دچار خدشه میشود. از سوی دیگر، سرعت بالای خروجی مدلهای هوش مصنوعی میتواند خبرنگار را وسوسه کند که بدون پالایش دستی و بدون بررسی دقیق منابع، خروجی را همانطور که هست منتشر کند. نتیجه چنین رفتاری این است که خبرنگار عملاً به یک ناشر خامِ خروجی الگوریتم تبدیل میشود.
ایسنا: امروز با انبوهی از تصاویر و ویدئوهای «دیپفیک» مواجهیم. خبرنگاران چگونه میتوانند در این میدان نابرابر، با همان ابزار هوش مصنوعی، سپر دفاعی ایجاد کنند؟
در عصر هوش مصنوعی، نبرد ما نبرد «ماشین علیه ماشین» است؛ یعنی برای مقابله با تخلفات و سوءاستفادههای هوش مصنوعی باید از ابزارهای قدرتمند همان حوزه—یا مشابه آن—بهره گرفت. پاسخگویی به این چالشها، حتی در دل خود هوش مصنوعی هم امکانپذیر است. از یک سو، شرکتهای تولیدکننده محتوای هوش مصنوعی باید ملزم شوند که با واترمارکینگ یا نشانهگذاری محتوا، امکان تمایز دادن آن را فراهم کنند. از سوی دیگر، ابزارهایی طراحی و توسعه پیدا میکنند که تشخیص دهند محتوای تولیدشده آیا واقعاً توسط هوش مصنوعی ساخته شده است یا نه.
در حوزه تشخیص، میتوان از مدلهای مبتنی بر شبکههای متخاصم مولد (GANs) به شکل معکوس استفاده کرد؛ برخلاف کاری که این شبکهها برای تولید یک تصویر انجام میدهند. در اینجا از الگوریتمهایی صحبت میکنیم که میتوان آنها را Forensic AI نامید؛ یعنی مدلهایی که نه برای ساختن، بلکه برای یافتن «ناهنجاریهای سطح پیکسل» مورد استفاده قرار میگیرند. این مدلها ناسازگاریهای نوری، سایههای غیرواقعی و یا حتی بینظمیهایی در انعکاس مردمک چشم را نمایان میکنند؛ چیزهایی که برای چشم انسان معمولاً نامرئی است.
ایسنا: خبرنگاری که از هوش مصنوعی استفاده میکند، چه تکالیف اخلاقی بر دوش دارد؟
این بخش عمیقترین قسمت گفتوگوست، چون پای مباحث انسانشناسی به میان میآید. اصل اول در کار خبرنگار، صدق و امانت در نقل است. «یا ایها الذین آمنوا اتقوا الله و کونوا مع الصادقین». یعنی خبرنگار موظف است به صداقت پایبند باشد. در این زمینه باید یک نظام برچسبگذاری برای محتوای تولیدشده با هوش مصنوعی تعریف شود؛ نوعی کدگذاری که نشان دهد چه درصدی از یک متن توسط هوش مصنوعی تهیه شده و نقش انسان در ویرایش، کنترل و نهاییسازی آن چقدر بوده است. این کد باید در آغاز خبر درج شود. این، همان مسئولیت اخلاقی خبرنگار است.
باید باور کنیم پنهان کردن دخالت ماشین در تولید محتوا، مصداق واقعی «تلبیس» در فقه و در معنای فریب مخاطب است. چنین کاری در اخلاق اسلامی به شدت مذموم شمرده میشود.
اصل دوم، عدالت و انصاف است؛ یعنی پرهیز از تبعیض. خبرنگار باید مراقب باشد سوگیریهای احتمالی الگوریتم هوش مصنوعی—که ریشه در دادههای آموزش دارد—به بیاحترامی به طبقه، نژاد، دین یا قومیت خاص منجر نشود و آنها را در محاسبات خود نادیده نگیرد. همچنین خبرنگار هنگام تنظیم پرامپت یا همان دستور ورودیاش به هوش مصنوعی، باید همه جوانب را رعایت کند و اجازه ندهد دادهها به کلیشههای توهینآمیز آلوده باشند.
ایسنا: در یک جمله پایانی، مهمترین نکتهای که نباید توسط خبرنگاران فراموش شود را بفرمایید؟
هوش مصنوعی ممکن است «به جای تو» بنویسد، اما مسئولیتش را به دوش نمیگیرد؛ پس خبرنگاران باید مواظب باشند گرفتار تنبلی شناختی نشوند و همه روندِ فکر کردن را به ماشین نسپارند. استفاده از هوش مصنوعی فقط باید در نقش یک دستیار برای تحلیل دادهها باشد و قضاوت نهایی، تصمیم و تأیید منبع همچنان باید در اختیار خود خبرنگار بماند.
انتهای پیام