نقش تعیین مسئولیت قبل از سپردن اختیار به هوش مصنوعی
به نقل از ایسنا، احسان چیست ساز، معاون سیاستگذاری، برنامهریزی توسعه فاوا و اقتصاد دیجیتال، در بیستویکمین کنفرانس بینالمللی توسعه منابع انسانی با ارائه گفتاری تحت عنوان حکمرانی تعامل میان انسان و عامل هوش مصنوعی، به بررسی ورود عاملهای هوشمند به فرآیندهای کاری پرداخت و این موضوع را فراتر از خرید و پیادهسازی فناوری دانست. وی افزود که برای اعطای اختیارات به عامل هوشمند، ضروریست ابتدا مشخص شود که این عامل به چه دادههایی دسترسی خواهد داشت، تا چه اندازه میتواند بهطور مستقل عمل کند، در کدام موارد به تأیید انسانی نیاز دارد و همچنین چه شرایطی لازم است تا فعالیت آن متوقف گردد.
وی در ادامه به یک نمونه استخدامی اشاره کرد و گفت: اگر یک عامل هوشمند به ارزیابی رزومهها و رتبهبندی متقاضیان موظف گردد، این سؤال مطرح میشود که آیا باید توانایی ارسال مستقیم نامههای رد استخدام را نیز داشته باشد یا خیر. پاسخ به این پرسش تنها به دقت مدل وابسته نیست و باید اعتبار معیارهای ارزیابی، نتایج تصمیمگیری برای متقاضی، امکان بازبینی و مسئولیت رسیدگی به خطاها نیز در طراحی این فرآیند مد نظر قرار گیرد.
چیت ساز با مرور نتایج پژوهشها در زمینه همکاری انسان و هوش مصنوعی اظهار داشت که این فناوری میتواند به برخی از وظایف کمک کند و بهرهوری را افزایش دهد و همچنین دسترسی کارکنان کمتر باتجربه به دانش حرفهای را تسهیل نماید، اما نتیجه نهایی همکاری بستگی به نوع وظیفه، قابلیتهای مدل و شیوه تقسیم کار میان انسان و هوش مصنوعی دارد و فقط قرارگیری همزمان این دو در کنار یکدیگر، بهتنهایی عملکرد بهتری را به همراه نخواهد داشت.
معاون سیاستگذاری، برنامهریزی توسعه فاوا و اقتصاد دیجیتال همچنین بر ضرورت انجام ارزیابی مستقل از خروجیهای تولید شده توسط عاملهای هوشمند تأکید کرد و بیان داشت: جریان و انسجام یک پاسخ نباید به اشتباه با صحت آن یکسان تصور شود و سازمانها موظفند علاوه بر سرعت در انجام کار، عواملی نظیر خطاهای پرهزینه، میزان نیاز به بازنگری، عدالت در تصمیمگیری و حفظ قابلیت قضاوت مستقل کارکنان را نیز مورد تحلیل و سنجش قرار دهند.
منابع انسانی؛ بنیانگذار همکاری انسان و عامل
وی نقش واحدهای منابع انسانی را در بازطراحی این همکاری بسیار حیاتی تلقی کرد و تصریح نمود: تجزیه و تحلیل مشاغل در عصر حضور عاملهای هوشمند باید علاوه بر تعریف وظایف، فعالیتها، نقاط تصمیمگیری و محدوده اختیارات انسان و عامل را نیز مشخص نماید.
چیت ساز افزود که برنامههای آموزشی به منظور توسعه کارکنان نباید تنها بر آموزش نحوۀ استفاده از ابزارهای هوش مصنوعی متمرکز شوند، بلکه باید فضایی برای تمرین مستقل، شناسایی خطا و توضیح دلایل را برای کارکنان فراهم آورند تا مهارتهای حرفهای و توانایی قضاوت انسانی در فرآیندهای سازمانی تضعیف نگردد.
معاون سیاستگذاری، برنامهریزی توسعه فاوا و اقتصاد دیجیتال در ادامه، چارچوب پیشنهادیای تحت عنوان «پیمان» برای ساماندهی همکاری انسان و عامل هوش مصنوعی معرفی کرد و پنج مؤلفه شامل پاسخگویی تعریف شده، یادگیری و بهبود مهارتها، مرز اختیارات، ارزیابی تأثیر و نمایندگی کارکنان را از اجزای کلیدی این چارچوب برشمرد.
به گفته وی، این چارچوب میتواند در سازمانها بهطور عملیاتی مورد بهرهبرداری قرار گیرد به شرطی که به تصمیمات مشخص و قابل پیگیری منجر شود، از جمله تعیین مالک پاسخگو، سطوح دسترسی مجاز، معیارهای پذیرش خروجی و روند رسیدگی به اختلافات و خطاها.
چیت ساز همچنین پیشنهاد کرد که هر عامل هوشمند قبل از دریافت اختیار عمل، باید یک «شناسنامه» معین داشته باشد؛ شناسنامهای که شامل مأموریت عامل، مسئول پاسخگویی، حدود دسترسی، شرایط تأیید و متوقف ساختن فعالیت و زمان بررسی عملکرد آن باشد.
سیاستگذاری با دوقلوی دیجیتال
معاون سیاستگذاری، برنامهریزی توسعه فاوا و اقتصاد دیجیتال در بخشی دیگر از سخنان خود از طراحی دوقلویی دیجیتال که قابلیت سیاستگذاری را دارد خبر داد و تغییر سطوح اختیار عاملهای هوشمند را یکی از موضوعات قابل بررسی پیش از اجرایی کردن واقعی آنها برشمرد.
وی توضیح داد که چنین رویکردی میتواند امکان بررسی سناریوهای مختلف سیاستی را پیش از اجرایی کردن آنها فراهم کند؛ به عنوان مثال میتوان بررسی کرد که افزایش سطح اختیار یک عامل هوشمند چه تأثیری بر کیفیت تصمیمگیری، یادگیری کارکنان و میزان پاسخگویی سازمان خواهد داشت.
چیت ساز بر این نکته تأکید کرد که نتایج سیاستگذاری باید با توجه به فرضیات، دادههای به کار رفته و محدودیتهای مدل تفسیر گردد و ارزیابی اثرات واقعی سیاستها نیز پس از پیادهسازی ادامه یابد.
معاون سیاستگذاری، برنامهریزی توسعه فاوا و اقتصاد دیجیتال در پایان خاطرنشان کرد که پیش از فعالسازی هر عامل هوشمند، مرزهای اختیارات آن و همچنین نام مسئول پاسخگوی عملکرد و تصمیمات آن باید به وضوح مشخص گردد.
انتهای پیام