علی نظافتیان در مصاحبهای با ایسنا به قانون ملی توسعه هوش مصنوعی که در مردادماه سال ۱۴۰۵ به تصویب رسیده و برای اجرا ابلاغ گردیده، اشاره کرد و اعلام کرد: این قانون به همه ابعاد توسعه هوش مصنوعی توجه داشته و از ساختار حکمرانی و زیرساختها گرفته تا مقولههای داده، امنیت، نیروی انسانی، تأمین مالی و توسعه فناوری را در بر میگیرد.
او همچنین افزود: در میان احکام مختلف این قانون، بند «پ» ماده ۴ از جنبههای حقوقی و فقهی اهمیت خاصی دارد؛ زیرا قانونگذار در این بخش، به تدوین اسناد مرتبط با «حقوق و مسئولیتهای مدنی و کیفری» هوش مصنوعی در کنار «الزامات شرعی و حقوقی هوش مصنوعی» اشاره کرده و بر تدوین این اسناد با «رعایت موازین شرعی» تأکید دارد.
نظافتیان ادامه داد: اهمیت این حکم بر این است که قانونگذار تنها به پیامدهای ناشی از بهرهبرداری از هوش مصنوعی توجه نداشته، بلکه ضرورت تدوین قواعدی را مطرح کرده است که میتواند تمام زنجیره ایجاد و بهرهبرداری از این فناوری را شامل شود؛ از زمینه داده و طراحی الگوریتم گرفته تا مراحل توسعه، تولید، ارائه، سازماندهی، استقرار، بهرهبرداری و تصمیمگیری مبتنی بر خروجی هوش مصنوعی.
قانون کنونی، آغاز تدوین نظام مسئولیت
این کارشناس حقوق بانکی بیان کرد: ابتدا باید یک نکته حقوقی شفاف شود و آن اینکه بند «پ» ماده ۴، در واقع نظام کاملی از مسئولیت مدنی و کیفری برای هوش مصنوعی نگنجانده، بلکه تدوین اسناد مرتبط با این موضوع را به مرکز مطالعات راهبردی و آزمایشگاه فناوریهای پایه هوش مصنوعی محول کرده است.
وی اضافه کرد: لذا، قانون کنونی بیشتر مسیر تدوین نظام حقوقی آینده هوش مصنوعی را ترسیم کرده است و باید مشخص شود در صورتی که یک سامانه هوش مصنوعی منجر به خسارت گردد، چطور مسئولیت بین طراح، توسعهدهنده، تولیدکننده، عرضهکننده، مالک، سازمان بهرهبردار، کاربر حرفهای و تصمیمگیرنده انسانی تقسیم خواهد شد.
نظافتیان ادامه داد: به همین شکل باید معین شود اگر منشاء خطا به دادههای نادرست یا ناقص، طراحی غیر اصولی الگوریتم، نقص فنی، آموزش ناکافی مدل، استفاده نادرست، کمبود نظارت، عدم بهروزرسانی یا حمله سایبری مرتبط باشد، مسئولیت متوجه کدام یک از افراد یا اشخاص خواهد بود.
وی بر این نکته تاکید کرد: بنابراین، نباید عبارت «حقوق و مسئولیتهای مدنی و کیفری» را صرفاً به معنی «مسئولیت ناشی از استفاده از هوش مصنوعی» تفسیر کرد.
از کاربر تا زنجیره مسئولیت
این کارشناس حقوق بانکی با اشاره به اینکه هوش مصنوعی نتیجه یک فرایند فکری و فنی چند مرحلهای است، گفت: سامانه هوشمند در ابتدا به داده نیاز دارد، سپس در روند طراحی و آموزش مدل به کار میرود، مدل تکامل مییابد، سیستم ارائه میشود یا در یک سازمان به کار گرفته میشود، و در پایان، خروجی آن میتواند مبنای یک تصمیم انسانی یا حتی تصمیمی خودکار قرار گیرد.
وی افزود: لذا، خسارت ناشی از عملیات هوش مصنوعی نیز ممکن است ناشی از خطا در هر یک از این مراحل باشد. اگر دادههای مورد استفاده نادرست، ناقص یا غیرمجاز باشند، مسئولیت مربوط به داده مطرح است. اگر الگوریتم بهنحوی طراحی شده باشد که احتمال خطای جدی و قابل پیشبینی داشته باشد، مسئولیت طراح و توسعهدهنده به میان میآید.
نظافتیان ادامه داد: اگر سیستم معیوب به بازار عرضه شده باشد، مسئولیت تولیدکننده یا عرضهکننده قابل پیگیری خواهد بود. همچنین اگر سازمانی بدون ارزیابی مناسب، این سامانه را به کار خود وارد کند، مسئولیت متوجه سازمان بهرهبردار و مدیران مربوط میشود.
وی همچنین افزود: اگر انسانی بدون بررسی کافی، خروجی سامانه را مبنای تصمیمگیری نهایی قرار دهد، مسئولیت تصمیمگیرنده انسانی باید مورد ارزیابی قرار گیرد. بنابراین، موضوع حقوقی آینده تنها تعیین یک «مقصر» نیست، بلکه باید زنجیره مسئولیت در اکوسیستم هوش مصنوعی روشن شود.
مسئولیت داده؛ حلقهای که نباید نادیده گرفته شود
نظافتیان به اهمیت داده در نظام مسئولیت هوش مصنوعی اشاره کرد و گفت: در بسیاری از مباحث مربوط به مسئولیت هوش مصنوعی، تمرکز عمدتاً بر الگوریتم قرار دارد؛ در حالی که اشتباهات الگوریتم ممکن است در واقع ناشی از دادههایی باشد که در اختیار آن قرار داده شدهاند.
وی اضافه کرد: اگر دادهها نقص، نادرستی، قدیمی، تبعیضآمیز یا بدون رعایت حقوق هر فرد جمعآوری شده باشند، تصمیم نهایی سامانه نیز میتواند تحت تأثیر قرار گیرد. در این صورت نمیتوان صرفاً به این دلیل که تصمیم نهایی توسط الگوریتم گرفته شده است، مسئولیت را به «هوش مصنوعی» تعمیم داد.
این کارشناس حقوق بانکی ادامه داد: باید مشخص شود چه کسی داده را تولید، جمعآوری، پالایش، تأیید، ذخیره یا در دسترس سامانه قرار داده و چه استانداردهایی برای صحت و اعتبار آن وجود داشته است. از این منظر، حکمرانی داده بخشی جداییناپذیر از نظام مسئولیت هوش مصنوعی خواهد بود.
اتلاف و تسبیب در عصر الگوریتم
وی به جایگاه موازین شرعی در این عرصه اشاره کرده و گفت: اینجاست که رعایت موازین شرعی اهمیت زیادی پیدا میکند. هوش مصنوعی یک فناوری نوین است، اما مفاهیمی مثل ضرر، ضمان، اتلاف و تسبیب مفاهیمی تازه نیستند.
نظافتیان بیان کرد: اگر سیستم به دلیل طراحی نامناسب، داده نادرست، یا استفاده نادرست منجر به از بین رفتن مال یا نقض حق شخصی شود، پرسش حقوقی و فقهی این است که رابطه میان این خسارت و رفتار افراد دخیل چگونه تبیین میشود. در اینجا قواعد مربوط به اتلاف و تسبیب میتوانند مبنای بررسی مسئولیت قرار گیرند.
وی افزود: مثلاً اگر فرد یا سازمانی سامانهای را در اختیار داشته باشد و با آگاهی از نقص و خطر آن همچنان از آن استفاده کند، نمیتوان با استناد به خودکار بودن عملکرد سامانه، مسئولیت انسانی را نادیده گرفت. در مقابل، اگر خسارت ناشی از نقصی باشد که برای بهرهبردار قابل شناسایی یا پیشبینی نبوده و به تولیدکننده یا طراح نسبت داده شود، باید حدود مسئولیت آنان مورد بررسی قرار گیرد.
قاعده لاضرر و حمایت از زیاندیده
این کارشناس حقوق بانکی با اشاره به قاعده «لاضرر» گفت: این قاعده فقهی و حقوقی نیز میتواند در این زمینه مورد توجه قرار گیرد. این بدان معنا نیست که هر تصمیم نادرستی که هوش مصنوعی اتخاذ کند، بهطور حتم موجب مسئولیت خواهد شد؛ بلکه باید میان خطر متعارف، خطای قابل پیشبینی، تقصیر، رابطه سببیت و خسارت قابل انتساب تمایز قائل شد.
وی افزود: هدف این است که استفاده از فناوری بهانهای برای تضییع حقوق افراد نشود. اگر هوش مصنوعی قرار باشد در تصمیمهای مهم اقتصادی و اجتماعی نقش ایفا کند، افرادی که از عملکرد آن زیان میبرند باید به جهت پیچیدگی فناوری از طریق مطالبه خسارت محروم نگردند.
هوش مصنوعی خودِ «مسئول» نیست
نظافتیان در پاسخ به این سوال که آیا میتوان خود هوش مصنوعی را مسئول دانست، اظهار کرد: در وضعیت فعلی حقوقی، هوش مصنوعی نه بهعنوان شخص حقیقی و نه بهعنوان شخص حقوقی در نظر گرفته میشود. بنابراین نمیتوان صرفاً به واسطه استقلال نسبی عملکرد یک سامانه، مسئولیت را بر دوش خود آن گذاشت.
وی ادامه داد: حتی سامانههایی نظیر ChatGPT نیز، هرچند ممکن است در ارائه پاسخها دچار خطا شوند، به خودی خود بهعنوان یک شخص حقیقی یا حقوقی مسئولیت قانونی مستقل ندارند.
این کارشناس حقوق بانکی افزود: بنابراین، خطای یک سامانه هوشمند بهتنهایی به معنای مسئولیت حقوقی از سوی «ماشین» نیست، بلکه باید مسئولیت در زنجیره انسانی و سازمانی آن همچون تأمینکنندگان داده، طراحان الگوریتم، تولیدکنندگان، عرضهکنندگان، سازمانهای بهرهبردار، کاربران حرفهای و تصمیمگیرندگان انسانی بررسی شود.
وی در ادامه تأکید کرد: از همین رو، نکته دیگری از بند «پ» ماده ۴ اهمیت پیدا میکند؛ یعنی تأکید قانونگذار بر «حفظ و تقویت محوریت عاملیتهای انسانی». این عبارت میتواند مبنای اصول مهمی در حکمرانی هوش مصنوعی باشد؛ بهاین معنا که هوش مصنوعی نباید به ابزاری برای پنهان شدن انسان یا اشخاص حقوقی پشت الگوریتم تبدیل شود و از پذیرش مسئولیت فرار کند.
مسئولیت کیفری؛ پیچیدهتر از مسئولیت مدنی
نظافتیان با بیان اینکه موضوع مسئولیت کیفری در این حوزه حساستر است، اظهار کرد: بر اساس قوانین و مقررات کنونی، هوش مصنوعی نه دارای شخصیت حقوقی است و نه بهعنوان شخص حقیقی شناخته میشود؛ یعنی در واقع، هوش مصنوعی فاقد شخصیت است.
وی افزود: در مسئولیت مدنی، محور اصلی معمولاً جبران خسارت است، اما در مسئولیت کیفری، احراز عناصر قانونی، مادی و معنوی جرم و شرایط انتساب آن ضروری است.
این کارشناس حقوق بانکی توضیح داد: از این رو، اگر سامانهای تصمیم اشتباهی بگیرد، صرفاً رخداد یک نتیجه زیانبار برای احراز مسئولیت کیفری شخص دیگری کافی نیست. باید مشخص شود که چه کسی سامانه را طراحی یا به کار گرفته، چه میزان از خطر آن آگاه بوده، آیا مقررات و استانداردهای لازم رعایت شده و آیا میان رفتار شخص و نتیجه مجرمانه رابطهای قابل نسبت وجود دارد یا خیر.
وی ادامه داد: از این رو، «مسئولیت کیفری هوش مصنوعی» بیشتر به تعیین شرایط مسئولیت کیفری اشخاص حقیقی و حقوقی دخیل در چرخه هوش مصنوعی معطوف میشود.
موازین شرعی؛ محدودیت فناوری یا مبنای حکمرانی؟
نظافتیان به مفهوم «رعایت موازین شرعی» در قانون ملی توسعه هوش مصنوعی اشاره کرد و گفت: این عبارت نباید بهعنوان یک عبارت تشریفاتی یا محدود کننده برای توسعه فناوری تلقی شود. به نظر میرسد باید این عبارت هم بهعنوان یک مبنای هنجاری برای طراحی نظام مسئولیت هوش مصنوعی مورد توجه قرار گیرد.
وی افزود: قواعد آینده باید بهگونهای تنظیم شوند که ضمن پذیرش نوآوری و توسعه فناوری، اصولی نظیر حفظ حقوق افراد، منع اضرار ناروا، جبران خسارت، رعایت حقوق مالی و مالکیت، حفظ حریم خصوصی، عدالت و پرهیز از تبعیض ناروا، رعایت عاملیت انسانی و تعیین دقیق مسئولیت افراد دخیل را مد نظر قرار دهند.
این کارشناس حقوق بانکی ادامه داد: در این نگاه، «موازین شرعی» نه در تعارض با فناوری، بلکه در کنار حقوق و فناوری برای ساخت یک نظام پاسخگو قرار میگیرد.
تجربه آمریکا و اتحادیه اروپا
او همچنین به رویکردهای حقوقی کشورهای دیگر اشاره کرد و بیان کرد: مقایسه رویکرد ایران با ایالات متحده و اتحادیه اروپا نشان میدهد که مسئله مسئولیت هوش مصنوعی در جهان نیز هنوز در حال شکلگیری و تکامل است، با این حال هر نظام حقوقی با توجه به ساختار قانونی و سیاستگذاری خود، مسیر متفاوتی را پیش میگیرد.
نظافتیان افزود: در ایران، بند «پ» ماده ۴ قانون هنوز نظام مفصلی از مسئولیت را ایجاد نکرده، بلکه تدوین اسناد مربوط به «حقوق و مسئولیتهای مدنی و کیفری» و الزامات شرعی و حقوقی هوش مصنوعی را مقرر کرده است. در نتیجه، قانونگذار در واقع طراحی نظام مسئولیت آینده را به مراحل بعدی قانونگذاری و مقرراتگذاری واگذار کرده است.
وی گفت: اهمیت خاص این حکم در این است که این مقررات باید «با رعایت موازین شرعی» تدوین گردند؛ موضوعی که امکان استفاده از قواعدی مانند اتلاف، تسبیب، لاضرر و ضمان را به همراه قواعد جدید فناوری به وجود میآورد.
این کارشناس حقوق بانکی ادامه داد: در ایالات متحده آمریکا، رویکرد فدرال بیشتر بر اعمال قوانین موجود در حوزههای مختلفی چون حمایت از مصرفکننده، عدم تبعیض، رقابت و حریم خصوصی، در کنار مقررات بخشی و چارچوبهای مدیریت ریسک تأکید دارد. نهادهای فدرال بهصراحت اعلام کردهاند که استفاده از هوش مصنوعی به معنای مصونیت از قوانین موجود نیست.
وی همچنین افزود: در کنار این رویکرد، چارچوب مدیریت ریسک هوش مصنوعی NIST نیز به مدیریت ریسک در سراسر چرخه حیات سامانه از طراحی و توسعه تا استفاده و ارزیابی اهمیت میدهد.
نظافتیان با تأکید بر رویکرد اتحادیه اروپا گفت: این نهاد رویکرد جامعتر و مقرراتمحورتری را اتخاذ کرده است. قانون هوش مصنوعی اتحادیه اروپا بر اساس سطح خطر، الزامات متفاوتی برای سامانهها تعیین میکند.
وی ادامه داد: برای سامانههای پرخطر، نیاز به ارزیابی و کاهش خطر، کیفیت داده، ثبت و قابلیت ردیابی فعالیتها، مستندسازی، شفافیت، نظارت انسانی، دقت، استحکام و امنیت سایبری مورد توجه قرار گرفته است. همچنین برای ارائهدهندگان و کاربرها، مسئولیتهایی در طول چرخه عمر سامانه مشخص شده است.
او همچنین به جبران خسارت در اتحادیه اروپا پرداخت و بیان کرد: این نهاد مسیر خود را در این حیطه توسعه داده و قواعد جدیدی را برای مسئولیت ناشی از محصول، نرمافزار، سامانههای هوش مصنوعی و برخی خدمات دیجیتال مرتبط تنظیم کرده است.
مسئولیت از نتیجه نهایی به کل چرخه عمر منتقل میشود
این کارشناس حقوق بانکی با اشاره به تفاوت رویکردهای حقوقی توضیح داد: از مقایسه این سه رویکرد حقوقی میتوان سه نکته کلیدی اتخاذ کرد. اول اینکه هیچ کدام از این رویکردها نمیتواند مسئولیت را تنها به «ماشین یا سیستم» مرتبط نماید. مسئولیت باید به افراد و نهادهایی تعلق گیرد که در طراحی، تولید، عرضه، استقرار، نظارت یا استفاده از سامانه نقش داشتهاند.
وی تصریح کرد: دوم اینکه مسئولیت بهتدریج از «نتیجه نهایی» به «کل چرخه عمر هوش مصنوعی» منتقل میشود. به عبارتی، تنها بررسی اینکه سامانه چه اشتباهی کرده کافی نیست، بلکه باید روشن شود داده چگونه تهیه شده، مدل چگونه طراحی شده و چه فردی آن را مستقر و نظارت کرده است.
نظافتیان ادامه داد: سومین نکته این است که تجربیات ایالات متحده و اتحادیه اروپا نشان میدهد که استفاده از هوش مصنوعی به معنای خروج فعالیت از زیر چتر قانون نیست؛ بلکه متناسب با سطح خطر، باید ابزارهای پیشگیرانه، نظارتی و شیوههای مسئولیتپذیری مناسبی تعیین شود.
او نتیجهگیری کرد که برای ایران نیز میتوان از تجربیات تطبیقی یک نتیجه حائز اهمیت گرفت؛ نظام مسئولیت آینده نباید صرفاً به دنبال مقصر پس از وقوع خسارت باشد، بلکه باید تا مراحل داده و طراحی و همچنین استقرار و بهرهبرداری، سازوکارهای پیشگیرانه، ثبت، نظارت، شفافیت و مسؤولیتپذیری را شامل شود.
آزمونی جدی برای نظام بانکی
نظافتیان به اهمیت این موضوع در نظام بانکی اشاره کرد و گفت: این مسأله در نظام بانکی بسیار مهمتر از دیگر زمینهها است. بانکها در آینده به طور فزایندهای از هوش مصنوعی در اعتبارسنجی، مبارزه با پولشویی، کشف تقلب، مدیریت ریسک، ارزیابی مشتری، شناسایی تراکنشهای مشکوک و وصول مطالبات استفاده خواهند کرد.
وی ادامه داد: اگر سامانه اعتبارسنجی مشتری بهاشتباه وی را پرریسک تشخیص دهد یا سامانه ضدپولشویی یک تراکنش قانونی را مشکوک اعلام کند، دیگر سوال فقط این نیست که «کاربر هوش مصنوعی کیست؟»
این کارشناس حقوق بانکی تصریح کرد: بلکه باید زنجیره کامل مورد بررسی قرار گیرد؛ اینکه داده از کجا آمده، الگوریتم به دست چه کسی طراحی شده، چه کسی سامانه را انتخاب و مستقر کرده و چه کسی بر عملکرد آن نظارت دارد. آیا امکان بررسی انسانی وجود داشته و اگر خسارتی وارد آید، چگونه مسئولیت میان چه اشخاصی تقسیم میشود.
وی در پایان گفت: این همان جایی است که موضوع کلی قانون ملی توسعه هوش مصنوعی تبدیل به یک مسأله عملی در نظام بانکی میشود.
ضرورت تدوین نظام جامع مسئولیت
نظافتیان بر لزوم تدوین نظام جامع مسئولیت تأکید کرد و گفت: اسناد مربوط به بند «پ» ماده ۴ نباید تنها مجموعهای از توصیههای اخلاقی باشند. در این اسناد، نیاز به طراحی یک نظام جامع حقوق و مسئولیت در چرخه هوش مصنوعی وجود دارد؛ نظامی که در آن برای هر مرحله، حقوق، تکالیف و مسئولیتهای مشخص تعریف گردد.
وی ادامه داد: از تولید و کیفیت دادهها تا طراحی و توسعه الگوریتمها، از عرضه و استقرار سامانهها تا نحوه بهرهبرداری و از تصمیمگیری انسانی تا جبران خسارت و مسئولیت کیفری، باید مسئولیتها بهصورت دقیق و واضح معین شوند.
این کارشناس حقوق بانکی افزود: همچنین باید روابط میان مسئولیتهای قراردادی و قانونی به روشنی مشخص گردد و این که آیا توافقات میان تولیدکننده و بهرهبردار میتواند حقوق شخص ثالث یا زیاندیده را محدود کند یا نه، مشخص شود.
او اشاره کرد که بند «پ» ماده ۴ را نباید تنها حکم تعیین مسئولیت کاربر هوش مصنوعی تلقی کرد، بلکه اهمیت واقعی این حکم در بیان ضرورت تدوین قواعد مربوط به حقوق و مسئولیتهای مدنی و کیفری در اکوسیستم هوش مصنوعی نهفته است؛ زیستبومی که در آن داده، الگوریتم، طراح، توسعهدهنده، تولیدکننده، عرضهکننده، سازمان بهرهبردار، کاربر و تصمیمگیرنده انسانی همگی میتوانند در ایجاد یک نتیجه نقش داشته باشند.
نظافتیان افزود: در این شرایط، پرسش اصلی دیگر تنها این نیست که «اگر هوش مصنویی اشتباه کند، چه کسی مسئول است؟» بلکه پرسش دقیقتر این است که اگر خسارتی در زنجیره هوش مصنوعی به وجود آمد، منشاء آن کجاست و مسئولیت چگونه بین عوامل این زنجیره توزیع میشود؟
او ادامه داد: بهعلاوه یک پرسش بنیادینتر نیز وجود دارد و آن اینکه «رعایت موازین شرعی» چگونه باید این نظام جدید مسئولیت را هدایت کند؟
این کارشناس حقوق بانکی در پایان گفت: در مجموع، در خصوص استفاده از ظرفیتهای دیگر هوش مصنوعی هنوز در مراحل ابتدایی قرار داریم، اما پاسخ به این سوالات میتواند پیوندی میان فقه، حقوق و فناوری در عصر هوش مصنوعی باشد؛ جایی که قواعدی مانند اتلاف، تسبیب، لاضرر و ضمان باید در کنار مفاهیم مدرنی نظیر داده، الگوریتم، یادگیری ماشین و تصمیمگیری خودکار، به مسائل جدید حقوقی پاسخ دهند.
او افزود: اگر این مأموریت بهدرستی انجام شود، قانون ملی توسعه هوش مصنوعی تنها یک قانون پیرامون توسعه فناوری نخواهد بود، بلکه میتواند به عنوان بستری برای شکلگیری نظام حقوقی مسئولیتپذیر در عصر هوش مصنوعی عمل کند؛ نظامی که در آن نه فناوری قربانی مقرراتگذاری افراطی شود و نه انسان و حقوق او قربانی قدرت الگوریتم.
انتهای پیام
نظرات کاربران