بایدها و نبایدهای استفاده از هوش مصنوعی

بر اساس گزارش ایسنا، هوش مصنوعی در طول دهه گذشته از یک مفهوم نظری به ابزاری فراگیر در زندگی روزمره، آموزشی، سازمانی و صنعتی تبدیل شده است. این فناوری شامل دستیارهای هوشمند، سیستم‌های تشخیص پزشکی، موتورهای پیشنهاد دهنده در پلتفرم‌های خرید و ابزارهای تولید محتوا و کدنویسی است.

امروزه هوش مصنوعی جزء جدایی‌ناپذیر فرآیندهای تصمیم‌گیری در سطح انسانی و سازمانی است. این گسترش سریع، اگر چه فرصت‌های منحصر به فردی را فراهم کرده، با خود چالش‌ها و مسئولیت‌های جدیدی برای کاربران، توسعه‌دهندگان، سازمان‌ها و قانون‌گذاران به همراه داشته است.

البته، به کارگیری نادرست، ناچیز و غیرمسئولانه این فناوری ممکن است به پیامدهایی چون نقض حریم خصوصی، اتخاذ تصمیمات تبعیض‌آمیز، انتشار اطلاعات نادرست و آسیب به اعتماد عمومی منجر شود. برعکس، استفاده اصولی و آگاهانه به همراه رعایت چارچوب‌های اخلاقی، می‌تواند به طرز چشمگیری افزایش بهره‌وری، بهبود کیفیت تصمیم‌گیری و ارتقاء کیفیت زندگی منجر شود.

تعریف هوش مصنوعی

هوش مصنوعی شامل مجموعه‌ای از فناوری‌ها و روش‌های محاسباتی است که به سیستم‌های رایانه‌ای اجازه می‌دهد وظایفی را انجام دهند که معمولاً نیازمند قدرت تفکر انسانی هستند؛ مانند یادگیری از داده‌ها، تشخیص الگوها، استدلال، اتخاذ تصمیمات، درک زبان طبیعی و تولید محتوا. زیرشاخه‌های اصلی این حوزه شامل یادگیری ماشین، یادگیری عمیق، پردازش زبان طبیعی، بینایی رایانه‌ای و سیستم‌های مبتنی بر قاعده می‌شود.

در سال‌های اخیر، ظهور مدل‌های زبانی بزرگ و ابزارهای هوش مصنوعی مولد، دسترسی عموم به این فناوری را به شکلی بی‌نظیر افزایش داده است. این رونق موجب شده که مسئله استفاده مسئولانه از هوش مصنوعی دیگر تنها دغدغه متخصصان فناوری نباشد و به موضوعی عمومی برای هر کاربر، دانش‌آموز، معلم، کارمند و مدیر بدل گردد.

هوش مصنوعی به‌طور مستقیم در فرآیند تصمیم‌گیری مؤثر است. سیستم‌هایی که مشخص می‌کنند کدام رزومه بررسی شود، کدام بیمار باید در اولویت درمان قرار گیرد یا چه محتوایی به کاربر پیشنهاد شود؛ از این رو، رعایت اصول اخلاقی و فنی در استفاده از چنین فناوری نه تنها یک توصیه اختیاری نیست بلکه پیش‌نیاز استفاده امن و پایدار از آن به حساب می‌آید.

چرا رعایت اصول فنی و اخلاقی مهم است؟

اولین دلیل کاهش خطر آسیب‌های اجتماعی و فردی با جلوگیری از اتخاذ تصمیم‌های نادرست یا تبعیض‌آمیز است. دومین دلیل حفظ اعتماد عمومی به فناوری است که پیش‌نیاز پذیرش عادلانه و پایدار آن تلقی می‌شود و سومین دلیل تطابق با الزامات قانونی و مقرراتی است که در بسیاری از کشورها به سرعت در حال شکل‌گیری هستند.

اصول کلیدی در استفاده از هوش مصنوعی

از جمله مهم‌ترین اصولی که کاربران و سازمان‌ها باید در هنگام استفاده از هوش مصنوعی مدنظر داشته باشند، محافظت از داده‌های حساس، آموزش مستمر کاربرها، راستی‌آزمایی خروجی‌ها، به‌روز رسانی دانش و استفاده هدفمند است.

رفتارهای نادرست در استفاده از هوش مصنوعی

در مقابل "بایدها"، رفتارها و رویه‌هایی وجود دارند که باید از آن‌ها پرهیز کرد، از جمله اعتماد به اطلاعات بدون بررسی، ورود داده‌های محرمانه بدون دقت، سپردن کامل تصمیمات حساس به هوش مصنوعی و نقض حقوق مالکیت معنوی.

نحوه تنظیم قوانین داخلی در جهان نسبت به هوش مصنوعی متفاوت است و کشورها رویکردهای متنوعی را برای تنظیم‌گری این فناوری اتخاذ کرده‌اند.

به‌عنوان نمونه، در اتحادیه اروپا از رویکرد مبتنی بر ریسک استفاده شده و کاربردها به سطوح ریسک مختلف و الزامات هر یک تقسیم‌بندی می‌شوند.

در ایالات متحده آمریکا ترکیبی از دستورالعمل‌های فدرال، استانداردهای صنعتی داوطلبانه و مقرراتی از ایالات مختلف استفاده می‌شود.

چین نیز بر نظارت دولتی متمرکز و الزامات ثبت الگوریتم‌ها تأکید دارد.

سازمان‌های بین‌المللی اقدام به تدوین اصول راهنما و چارچوب‌های داوطلبانه برای هماهنگی جهانی مانند اصول اخلاقی نهادهای تخصصی سازمان ملل کرده‌اند.

کارشناسان معتقدند که با توجه به روند تحولی هوش مصنوعی، این فناوری در سال‌های آینده تأثیر بیشتری در تصمیم‌گیری‌های فردی و سازمانی خواهد گذاشت. این امر مسئولیتی مشترک بین توسعه‌دهندگان فناوری، سازمان‌ها، قانون‌گذاران و کاربران نهایی ایجاد می‌کند.

حفاظت از حریم خصوصی و داده‌ها

بسیاری از ابزارهای هوش مصنوعی برای بهبود عملکرد خود از داده‌های ورودی کاربران استفاده می‌کنند. این امر به همراه مزایای فنی، خطراتی جدی برای حریم خصوصی ایجاد می‌کند، به‌ویژه اگر کاربران بدون آگاهی، اطلاعات حساس شخصی یا سازمانی را در این سیستم‌ها وارد کنند.

مهم است که اصول کلیدی حفاظت از داده‌ها رعایت شود؛ مثلاً قبل از استفاده از هر ابزار، سیاست حریم خصوصی و شرایط استفاده را بخوانید. در صورت امکان از گزینه‌های غیرفعال‌سازی داده‌ها برای آموزش مدل بهره‌برداری کنید و داده‌های شناسایی‌کننده را در صورت عدم نیاز از بین ببرید یا ناشناس‌سازی نمایید. برای داده‌های حساس سازمانی از ابزارهای دارای گواهی‌های امنیتی و با رعایت استانداردهای شناخته‌شده استفاده کنید.

به عنوان مثال، خطر وارد کردن اطلاعات حساس وجود دارد. فرض کنید کارمندی برای تسریع در نوشتن گزارشی مالی، ارقام محرمانه درآمد سازمان را در یک ابزار عمومی هوش مصنوعی وارد کند، در این صورت ممکن است بدون آنکه بخواهد این اطلاعات را در معرض ذخیره‌سازی یا حتی استفاده برای آموزش مدل‌های آتی قرار دهد. استفاده صحیح باید به کارگیری نسخه‌های سازمانی با تضمین حفظ حریم خصوصی یا حذف ارقام حساس قبل از ورود به سامانه باشد.

سیستم‌های هوش مصنوعی بر اساس داده‌های گذشته خود آموزش می‌بینند و می‌توانند الگوهای موجود در آن داده‌ها را تکرار یا جبران کنند. این پدیده “سوگیری الگوریتمی” نامیده می‌شود و می‌تواند در زمینه‌های استخدام، اعطای وام، تشخیص پزشکی و عدالت کیفری عواقب جدی برای گروه‌های اجتماعی مختلف داشته باشد.

مقابله با سوگیری نیازمند رویکردی چندلایه است: بررسی منظم داده‌های آموزشی برای نمایندگی متوازن گروه‌های مختلف، آزمون خروجی سیستم بر روی زیرگروه‌های مختلف و حفظ امکان بازبینی و اعتراض انسانی بر تصمیمات الگوریتمی.

به‌عنوان نمونه، اگر داده‌های تاریخی یک شرکت نشان دهند که عموماً افرادی از یک جنسیت یا پیشینه خاص در یک نقش به‌کار گرفته‌شده‌اند، ممکن است سیستمی که بر پایه این داده‌ها آموزش داده‌شده، به‌طور ناآگاهانه رزومه‌های سایر گروه‌ها را کم‌ارزش‌تر ارزیابی کند، حتی در صورتی که شایستگی برابر داشته باشند.

اهمیت امنیت سایبری در هوش مصنوعی

هوش مصنوعی می‌تواند هم ابزاری برای تقویت امنیت سایبری باشد (مانند شناسایی ناهنجاری‌ها در ترافیک شبکه) و هم خود هدف یا ابزاری برای حملات سایبری قرار گیرد. حملاتی مانند “مسموم‌سازی داده” (دستکاری داده‌های آموزشی) یا “تزریق دستور” (فریب دادن مدل برای انجام رفتار غیرمنتظره) از جمله تهدیدهای نوظهور در این زمینه به شمار می‌روند.

دسترسی به سامانه‌های حساس هوش مصنوعی باید محدود و به‌دقت کنترل شود. ورود کاربران باید قبل از پردازش توسط مدل پالایش و تأیید شود و سیستم‌ها باید به‌طور منظم از نظر آسیب‌پذیری‌های امنیتی مورد بررسی قرار گیرند.

روند پذیرش هوش مصنوعی در سازمان‌ها طی سال‌های اخیر صعودی بوده و این امر اهمیت آموزش کاربرها و تدوین سیاست‌های مسئولانه را دوچندان می‌کند. حفاظت از حریم خصوصی داده‌ها و صحت اطلاعات تولید شده از مهم‌ترین دغدغه‌های کاربران است. استفاده مسئولانه از هوش مصنوعی یک فرآیند مستمر است که از جمع‌آوری داده آغاز شده و با نظارت مستمر و بازخورد انسانی ادامه می‌یابد.

در این راستا علی اصغر زارعی ـ مدرس دانشگاه و کارشناس ارشد فناوری اطلاعات در گفت‌وگو با ایسنا بیان می‌دارد که استفاده مسئولانه از هوش مصنوعی از یک اقدام یک‌باره فراتر رفته و چرخه‌ای مداوم است که با جمع‌آوری داده شروع و توسط نظارت مداوم و بازخورد انسانی تکمیل می‌شود.

بر اساس نظرات وی، بسیاری از ابزارهای هوش مصنوعی برای بهبود عملکرد خود به داده‌های ورودی کاربران نیاز دارند و این امر به همراه مزایای فنی، خطرات جدی برای حریم خصوصی ایجاد می‌کند، به ویژه زمانی که کاربران بدون آگاهی کافی اطلاعات حساس شخصی یا سازمانی را در این سامانه‌ها وارد نمایند.

زارعی درباره اصول کلیدی حفاظت از داده‌ها می‌گوید: باید قبل از استفاده از هر ابزار، سیاست حریم خصوصی و شرایط استفاده از داده‌ها را به‌دقت مطالعه کرد و در صورت امکان از گزینه‌های غیرفعال‌سازی استفاده از داده‌ها برای آموزش مدل بهره‌مند شد. همچنین توصیه می‌شود که داده‌های شناسایی‌کننده افراد در صورت عدم نیاز حذف یا ناشناس‌سازی گردند و برای داده‌های حساس سازمانی از ابزارهایی با استانداردهای امنیتی معتبر استفاده شود.

این مدرس به تحلیل و ارزیابی اصول بایدها و نبایدها در چهار حوزه سلامت، آموزش، کسب و کار و رسانه و محتوا پرداخته و بیان کرد: در زمینه سلامت، هوش مصنوعی در تشخیص تصاویر پزشکی، پیش‌بینی ریسک بیماری و مدیریت پرونده‌های بیماران کاربردهای وسیعی دارد. کلید مؤثر در این حوزه حفظ نظارت پزشک متخصص بر تصمیم نهایی است. در حوزۀ آموزش، هوش مصنوعی می‌تواند در شخصی‌سازی یادگیری و تولید محتوای آموزشی مؤثر باشد. این در حالی است که واگذاری کامل فرایند ارزیابی یادگیری دانش‌آموز به سیستم بدون نظارت معلم می‌تواند به قضاوت‌های نادرست درباره توانمندی واقعی دانش‌آموزان منجر شود.

وی در خصوص دنیای کسب و کار اظهار می‌دارد: در این حوزه، هوش مصنوعی در تحلیل داده‌های مشتری، اتوماسیون خدمات و تصمیم‌گیری مالی به کار گرفته می‌شود، در حالی که شفاف‌سازی در مورد تعامل با سیستم‌های خودکار مانند ربات‌های گفتگو و دسترسی به کارشناس انسانی مورد اهمیت است. در حوزۀ رسانه و محتوا، هوش مصنوعی مولد امکان تولید سریع متن، تصویر و ویدئو را فراهم کرده است. در این راستا، انتشار محتوا به‌دست آمده توسط هوش مصنوعی به عنوان اثر کاملاً انسانی بدون افشای منبع، به‌ویژه در گزارش‌های خبری و مطالب آموزشی، باید مدنظر قرار گیرد.

به گزارش ایسنا، هوش مصنوعی ابزاری قوی است که در صورت استفاده صحیح، می‌تواند بهره‌وری، دقت و کیفیت تصمیم‌گیری را در حوزه‌های مختلف به‌طور قابل توجهی افزایش دهد. با این حال، این قدرت بدون رعایت اصول اخلاقی، شفافیت، حفاظت از حریم خصوصی و نظارت انسانی می‌تواند به منبعی از آسیب و بی‌اعتمادی تبدیل شود. به‌طور طبیعی، رعایت اصول و پرهیز از رفتارهای نادرست، اقدامی اساسی برای استفاده پایدار، ایمن و عادلانه از هوش مصنوعی است و موفقیت این فناوری نه تنها به پیشرفت‌های فنی بلکه به میزان مسئولیت‌پذیری انسان‌هایی که آن را طراحی و اجرا می‌کنند، وابسته است.

انتهای پیام