قانون‌گذاری هوش مصنوعی؛ از دیپ‌فیک تا نظارت بر غول‌های فناوری
بر اساس گزارشی از خبرگزاری خبرآنلاین، این پرسش‌ها موجب شده است که موضوع «قانون‌گذاری هوش مصنوعی» از یک موضوع خاص و تخصصی در ساحت فناوری، به یکی از کلیدی‌ترین مباحث حقوقی و سیاست‌گذاری در سطح بین‌الملل تبدیل شود. سرعت فزاینده رشد هوش مصنوعی، افزایش سیستم‌های تولیدی، خلق دیپ‌فیک و نگرانی‌ها در خصوص حریم خصوصی و احتمال الگوریتم‌های جانبدار، دولت‌ها را به این واداشته است که برای استفاده‌ای مسئولانه‌تر از این فناوری، چارچوب‌هایی مشخص وضع کنند.
در سال‌های اخیر، اتحادیه اروپا به عنوان یکی از پیشروان، مجموعه‌ای از جامع‌ترین قوانین را برای تنظیم هوش مصنوعی وضع کرده است. «قانون هوش مصنوعی اتحادیه اروپا» یا AI Act مبتنی بر رویکردی ریسک‌محور است؛ به این معنا که تمام سامانه‌های هوش مصنوعی را به یک شیوه محدود نمی‌کند، بلکه با توجه به نوع کاربری و میزان خطری که ممکن است برای افراد و جوامع به دنبال داشته باشد، الزامات مختلفی را ارائه می‌دهد.
اما در واقع، قانون‌گذاری هوش مصنوعی چه معنایی دارد، چه کاربردهایی دارد و چرا دولت‌ها در پی وضع کردن چنین قوانین هستند؟
قانون‌گذاری هوش مصنوعی در واقع چیست؟
قانون‌گذاری هوش مصنوعی شامل مجموعه‌ای از قوانین، مقررات، استانداردها و چارچوب‌هایی است که نحوه طراحی، توسعه، ارائه و استفاده از سامانه‌های هوش مصنوعی را تعیین می‌کند.
این چارچوب‌ها می‌توانند شامل موضوعاتی نظیر حریم خصوصی، ایمنی، تبعیض الگوریتمی، شفافیت، مسئولیت تولیدکنندگان، حقوق مصرف‌کنندگان و روش‌های استفاده از داده‌ها باشند.
البته نباید این موضوع را فراموش کرد که تمامی چارچوب‌های موجود در زمینه هوش مصنوعی به معنای «قانون» نیستند. به عنوان مثال، چارچوب مدیریت ریسک هوش مصنوعی مؤسسه ملی استاندارد و فناوری ایالات متحده (NIST) یک راهنمای داوطلبانه برای کمک به سازمان‌ها در شناسایی و مدیریت ریسک‌های مرتبط با هوش مصنوعی بوده و به خودی خود قانون الزامی محسوب نمی‌شود.
بنابراین، قانون‌گذاری هوش مصنوعی بخشی از یک اکوسیستم وسیع‌تر است که در آن قوانین الزام‌آور، استانداردهای فنی، دستورالعمل‌های اجرایی و چارچوب‌های مدیریت ریسک به‌طور همزمان به کار گرفته می‌شوند.
چرا قانون‌گذاری هوش مصنوعی اهمیت یافته است؟
هوش مصنوعی، بر خلاف بسیاری از نرم‌افزارهای سنتی، می‌تواند در تصمیم‌گیری‌هایی مشارکت کند که به‌طور مستقیم بر زندگی بشری تأثیر می‌گذارند.
تصور کنید سیستمی در فرایند استخدام، درخواست وام، تشخیص پزشکی یا ارزیابی پرونده‌ای به تصمیم‌گیری کمک کند. اگر داده‌های آموزشی آن دچار سوگیری باشند، ممکن است خروجی این سیستم به‌طور سیستماتیک به ضرر یک گروه خاص تمام شود.
از سوی دیگر، ابزارهای مولد هوش مصنوعی امکان تولید متن، تصویر، صدا و ویدیو را به مقدار زیاد فراهم کرده و این موضوع شناسایی محتواهای واقعی از غیرواقعی را دشوارتر کرده و دیپ‌فیک و انتشار اطلاعات گمراه‌کننده را به مسائلی جدی تبدیل کرده است.
بنابراین، هدف از قانون‌گذاری صرفاً جلوگیری از توسعه فناوری نیست؛ بلکه هدف اصلی آن ارائه قواعدی برای استفاده‌ای ایمن‌تر، شفاف‌تر و مسئولانه‌تر از این فناوری است.
قانون هوش مصنوعی اتحادیه اروپا چگونه عمل می‌کند؟
یکی از موارد بارز قانون‌گذاری جامع در زمینه هوش مصنوعی، قانون AI اتحادیه اروپا است. این قانون رویکردی «مبتنی بر ریسک» دارد: به این معنا که هر چه احتمال آسیبی که ناشی از یک کاربرد باشد، بیشتر باشد، الزامات قانونی آن نیز سخت‌گیرانه‌تر خواهد بود.
۱. کاربردهای ممنوع یا دارای ریسک غیرقابل‌قبول
برخی از کاربردهای هوش مصنوعی به دلیل خطر جدی برای حقوق بنیادین افراد ممنوع شده‌اند یا تحت محدودیت‌های بسیار سخت‌گیرانه‌ای قرار دارند. به عنوان مثال، قانون هوش مصنوعی اتحادیه اروپا برخی شیوه‌های دستکاری فریبنده، انواع خاصی از امتیازدهی اجتماعی و بعضی از کاربردهای خاص سیستم‌های بیومتریک را در فهرست ممنوعیت قرار داده است.
با این وجود، تصور نکنید که هر گونه استفاده از شناسایی بیومتریک از راه دور و در مکان‌های عمومی به‌طور مطلق منع شده است. این قانون برای برخی کاربردهای انتظامی استثناهایی را در نظر گرفته و استفاده از آن‌ها را به محدودیت‌های قانونی، ضرورت و تناسب وابسته کرده و در بعضی موارد نیاز به مجوز قضایی یا اداری دارد.
این نکته حائز اهمیت است؛ زیرا در گزارش‌های عمومی گاهی از «ممنوعیت کامل تشخیص چهره» صحبت می‌شود، در حالی که جزئیات قانون بسیار پیچیده‌تر از این تصویر ساده است.
۲. سامانه‌های پرخطر
دسته دیگری از سیستم‌ها شامل سامانه‌هایی هستند که در حوزه‌هایی فعالیت می‌کنند که خطا در آن‌ها ممکن است پیامدهای جدی برای سلامت، امنیت یا حقوق اساسی افراد به همراه داشته باشد.
نمونه‌های مطرح شده در این قانون شامل برخی کاربردهای هوش مصنوعی در استخدام و مدیریت پرسنل، آموزش، دسترسی به خدمات ضروری، تنفیذ قانون و عرصه‌های قضایی و مهاجرتی می‌باشد.
برای این سامانه‌های پرخطر، الزامات مربوط به مدیریت ریسک، کیفیت داده، مستندسازی، ثبت سوابق، نظارت انسانی، رعایت الزامات دقت و امنیت و ارزیابی انطباق در نظر گرفته شده است.
نکته کلیدی این است که «هوش مصنوعی پزشکی» یا «هوش مصنوعی استخدامی» به‌طور خودکار و در تمامی شرایط در یک گروه قانونی قرار نمی‌گیرد؛ بلکه طبقه‌بندی آن بستگی به نوع کاربرد و شرایط مشخص هر سامانه دارد.
۳. الزامات شفافیت
گروهی دیگر از مقررات به شفافیت مربوط می‌شوند. به‌طور مثال، قانون هوش مصنوعی اتحادیه اروپا در برخی موارد، سامانه‌هایی را که به‌طور مستقیم با انسان‌ها تعامل دارند ملزم می‌کند تا به کاربر اطلاع دهند که که در حال تعامل با یک هوش مصنوعی هستند.
همچنین برای برخی از سامانه‌های تولیدکننده محتوا، الزامات مشخصی درباره شناسایی محتوای تولید شده یا دستکاری شده وجود دارد. در مورد دیپ‌فیک نیز در شرایط خاص، کاربر باید اعلام کند که محتوا مصنوعی یا دستکاری شده است.
این بخش از قانون اهمیت دارد، چرا که می‌تواند به تفاوت‌گذاری میان محتوای واقعی و مصنوعی برای کاربران کمک کند.
قانون به هوش مصنوعی مولد چه می‌کند؟
پیدایش مدل‌های مولد هوش مصنوعی، همانند مدل‌هایی که متن، تصویر، صدا یا کد تولید می‌کنند، قانون‌گذاران را با چالش‌های تازه‌ای مواجه کرده است.
این مدل‌ها ممکن است در دامنه وسیعی از محصولات و خدمات به کار گرفته شوند. از همین رو، قانون هوش مصنوعی اتحادیه اروپا برای «مدل‌های هوش مصنوعی با کاربرد عمومی» یا GPAI الزامات خاصی تعیین کرده است.
در چارچوب اتحادیه اروپا، ارائه‌دهندگان این مدل‌ها باید اقداماتی نظیر تهیه مستندات فنی، تدوین سیاست‌هایی برای رعایت حق نشر و انتشار خلاصه‌ای از محتوای مورد استفاده در آموزش مدل را انجام دهند. برای مدل‌هایی که خطر سیستمی دارند، الزامات بیشتری نظیر ارزیابی و کاهش ریسک، گزارش‌دهی حوادث و تدابیر امنیت سایبری اتخاذ شده است.
بنابراین، این تصور که قانون فقط به «ربات‌های گفت‌وگومحور» یا ابزارهای تولید تصویر مربوط می‌شود، نادرست است؛ بخشی مهم از این مقررات به خود مدل‌های زیرساختی مرتبط است.
آیا قانون‌گذاری به معنای انتشار تمامی داده‌های آموزشی است؟
یکی از جوانب مهمی که هنگام توضیح قوانین مربوط به هوش مصنوعی لازم است با دقت مطرح شود، مسئله داده‌های آموزشی است.
گاهی در توضیحات ساده‌سازی شده بیان می‌شود که شرکت‌های هوش مصنوعی موظفند «تمامی کتاب‌ها و مقالات آموزشی مدل» را منتشر کنند. این عبارت دقیق نیست.
در چارچوب قوانین اتحادیه اروپا، ارائه‌دهندگان مدل‌های هوش مصنوعی با کاربرد عمومی موظف به داشتن سیاستی برای رعایت حق نشر و همچنین انتشار خلاصه‌ای از محتوای آموزشی مدل هستند. بنابراین، موضوع «خلاصه محتوای آموزشی» است، نه الزام کلی به انتشار فهرست کامل تمامی داده‌های آموزشی.
این موضوع می‌تواند یکی از سرنخ‌های کلیدی مناقشه میان شرکت‌های فناوری، پدیدآورندگان آثار و قانون‌گذاران قلمداد شود؛ زیرا مدل‌های هوش مصنوعی نیازمند حجم وسیعی از داده‌ها برای آموزش هستند و تعیین مرز میان استفاده مجاز از آثار و نقض حقوق پدیدآورندگان همچنان چالشی پیچیده است.
قانون‌گذاری چگونه با تبعیض الگوریتمی مقابله می‌نماید؟
یکی از مهمترین دلایل پرداختن به موضوع قانون‌گذاری هوش مصنوعی، پیشگیری از تصمیم‌گیری‌های تبعیض‌آمیز است.
هوش مصنوعی معمولاً از داده‌های گذشته برای یادگیری بهره می‌برد. اگر این داده‌ها دارای سوگیری باشند، ممکن است مدل نیز این الگوی نادرست را بازتولید کند. به عنوان مثال، اگر تاریخچه استخدام یک سازمان در گذشته به‌طور نامتوازن به نفع یک گروه خاص بوده باشد، سیستم استخدامی که با این داده‌ها آموزش دیده، الگوی مشابهی را تکرار خواهد کرد؛ حتی اگر برنامه‌نویس به‌طور مستقیم چنین دستوری برای آن تعریف نکرده باشد.
به همین سبب، قوانین ویژه‌ای که برای سامانه‌های پرخطر وضع شده به موضوعاتی نظیر کیفیت داده، مدیریت ریسک، مستندسازی و نظارت انسانی تأکید دارند. هدف این است که کنترل خطر تنها محدود به بررسی خسارت‌های پس از وقوع نباشد و بخشی از آن پیش از طراحی و توسعه سامانه آغاز گردد.
اگر هوش مصنوعی به خطا بیفتد، چه کسی مسئول است؟
این یکی از چالش‌های حقوقی پیچیده عصر هوش مصنوعی است. فرض کنید سیستمی در یک فرایند حساس، نتیجه‌ای نادرست ارائه دهد. آیا مسئولیت بر عهده سازنده مدل خواهد بود، شرکت عرضه‌کننده نرم‌افزار، سازمانی که از آن استفاده می‌کند یا فردی که تصمیم نهایی را اتخاذ کرده است؟
پاسخ به نوع سامانه، روش استفاده از آن، قوانین مرتبط با مسئولیت مدنی و مقررات در حوزه مربوط مرتبط است.
بنابراین، نباید تصور کرد که «قانون هوش مصنوعی» یک پاسخ واحد برای تمامی حوادث خواهد داشت. در واقع، قوانین مربوطه باید در کنار سایر مقررات موجود در حوزه‌های مختلفی همچون حمایت از مصرف‌کننده، حفاظت از داده‌ها، ایمنی محصولات و مسئولیت مدنی به کار گرفته شوند.
یکی از چالش‌های کلیدی آینده، روشن کردن مسئولیت میان زنجیره‌ای از بازیگران است؛ زنجیره‌ای که ممکن است از طراح مدل آغاز شده و به توسعه‌دهنده نرم‌افزار و سازمان استفاده‌کننده ادامه یابد.
آیا قانون‌گذاری سرمایه‌گذاری را کاهش می‌دهد؟
این دغدغه یکی از موضوعات مورد بحث اصلی میان طرفداران و مخالفان مقررات‌گذاری است. مخالفان قوانین سخت‌گیرانه بر این باورند که هزینه‌های انطباق ممکن است بار سنگینی بر دوش شرکت‌های کوچک و استارتاپ‌ها بیفکند و در نتیجه، سرعت پیشرفت فناوری را کند کند.
در مقابل، هواداران قانون‌گذاری معتقدند که نبود قواعد واضح نیز ممکن است باعث بروز هزینه‌های بزرگ‌تری شود؛ از نقض حریم خصوصی و تبعیض گرفته تا کلاهبرداری، مشکلات امنیتی و کاهش اعتماد عمومی.
بنابراین، مسأله اصلی تنها «قانون یا نوآوری» نیست، بلکه یافتن تعادلی بهینه میان این دو است.
چرا قانون‌گذاری هوش مصنوعی هنوز به نتیجه نرسیده است؟
یکی از چالش‌های پیچیده برای قانون‌گذاران، سرعت تحول فناوری است. قانون‌گذاری معمولاً فرایندی زمان‌بر است، در حالی که مدل‌های هوش مصنوعی به‌سرعت ممکن است دستخوش تغییرات بنیادی شوند.
حتی در اتحادیه اروپا نیز، اجرای کامل قانون هوش مصنوعی به‌طور ناگهانی انجام نمی‌شود و بخش‌های مختلف این قانون در زمان‌های متفاوتی اجرایی خواهند شد. طبق اطلاعات رسمی اتحادیه اروپا، بسیاری از مقررات AI Act از تاریخ ۲ اوت ۲۰۲۶ وارد مرحله اجرا خواهند شد، در حالی که برخی الزامات مرتبط با سامانه‌های پرخطر به زمان‌های بعدی موکول شده‌اند. زمان‌بندی نهایی اعلام شده برای اجرای برخی از این الزامات به ۲ دسامبر ۲۰۲۷ و ۲ اوت ۲۰۲۸ برمی‌گردد.
این زمان‌بندی نشان می‌دهد که قانون‌گذاری هوش مصنوعی همچون خود فناوری، فرآیندی در حال تحول خواهد بود.
آینده قانون‌گذاری هوش مصنوعی به کدام سو خواهد رفت؟
به نظر می‌رسد آینده قانون‌گذاری هوش مصنوعی بیشتر به‌جای ممنوعیت گسترده فناوری، بر ایجاد سازوکارهای مؤثر برای استفاده مسئولانه از آن متمرکز خواهد بود. قوانین آینده باید به‌خوبی میان کاربردهای کم‌خطر و کاربردهایی که به‌طور مستقیم با جان، آزادی، امنیت یا حقوق افراد مرتبط هستند، تمایز قائل شوند.
با رشد مدل‌های مولد، مسائلی مانند محتوای مصنوعی، دیپ‌فیک، حق نشر، شفافیت مدل‌ها، امنیت سایبری و مسئولیت ارائه‌دهندگان اهمیت بیشتری پیدا خواهند کرد.
در چنین شرایطی، می‌توان از قانون‌گذاری به‌عنوان نوعی «قطب‌نما» برای حرکت در دنیای پیچیده هوش مصنوعی یاد کرد؛ قطب‌نمایی که نتواند مسیر نوآوری را متوقف کند، بلکه باید مشخص کند این مسیر تا کجا باید ادامه یابد تا حقوق و امنیت انسان‌ها قربانی سرعت پیشرفت فناوری نشود.
در نهایت، موفقیت قوانین هوش مصنوعی تنها به شدت مجازات‌ها وابسته نیست؛ بلکه کیفیت مقررات، قابلیت اجرای آن‌ها، هماهنگی میان کشورهای مختلف و توانایی قانون‌گذاران در سازگار شدن با فناوری‌های نوین نیز از اهمیت بسزایی برخوردار است. هوش مصنوعی به سرعت در حال تحول است و قانون‌گذاری برای آنکه از این تحولات عقب نماند، باید به همان میزان هوشمند، منعطف و آینده‌نگر باشد.
۵۷