«هوش مصنوعی اختیار می‌گیرد؛ اما چه کسی پاسخ‌گوست؟»

به گزارش تک مسیر؛ احسان چیت‌ساز در بیست‌ویکمین کنفرانس بین‌المللی توسعه منابع انسانی، ورود عامل‌های هوشمند به جریان‌های کاری را فراتر از خرید و استقرار فناوری دانست و گفت سازمان‌ها باید پیش از فعال‌سازی این عامل‌ها، مشخص کنند به چه داده‌هایی دسترسی دارند، تا چه سطحی می‌توانند مستقل عمل کنند و در چه شرایطی فعالیتشان متوقف خواهد شد.

وی با اشاره به نمونه‌ای در فرآیند استخدام توضیح داد که اگر یک عامل هوشمند وظیفه بررسی و رتبه‌بندی رزومه‌ها را بر عهده داشته باشد، باید از پیش مشخص شود آیا اجازه ارسال مستقیم پاسخ رد استخدام را دارد یا خیر. به گفته او، در چنین تصمیمی علاوه بر دقت مدل، اعتبار معیارهای ارزیابی، پیامد تصمیم، امکان بازبینی و مسئولیت رسیدگی به خطا نیز اهمیت دارد.

چیت‌ساز با استناد به یافته‌های پژوهشی درباره همکاری انسان و هوش مصنوعی افزود: این فناوری در برخی وظایف می‌تواند بهره‌وری را افزایش دهد و دسترسی کارکنان کم‌تجربه به دانش حرفه‌ای را تسهیل کند، اما نتیجه همکاری به نوع وظیفه، قابلیت مدل و نحوه تقسیم کار میان انسان و عامل وابسته است.

او همچنین بر ارزیابی مستقل خروجی‌های عامل‌های هوشمند تأکید کرد و گفت روانی و انسجام پاسخ نباید با درست بودن آن اشتباه گرفته شود. از نگاه او، سازمان‌ها باید در کنار سرعت انجام کار، شاخص‌هایی مانند خطاهای پرهزینه، میزان بازکاری، عدالت در تصمیم‌ها و حفظ توانایی قضاوت مستقل کارکنان را نیز ارزیابی کنند.

منابع انسانی؛ معمار همکاری انسان و عامل

معاون سیاست‌گذاری وزارت ارتباطات، نقش منابع انسانی را در بازطراحی همکاری انسان و عامل هوشمند مهم دانست و گفت تحلیل مشاغل در عصر عامل‌های هوشمند باید علاوه بر وظایف، فعالیت‌ها، نقاط تصمیم‌گیری و حدود اختیار انسان و عامل را نیز مشخص کند.

وی افزود آموزش کارکنان نیز نباید فقط به نحوه استفاده از ابزارهای هوش مصنوعی محدود شود و باید فرصت تمرین مستقل، تشخیص خطا و توضیح استدلال را برای کارکنان حفظ کند تا توانمندی حرفه‌ای و قدرت قضاوت انسانی تضعیف نشود.

چیت‌ساز با معرفی چارچوب پیشنهادی «پیمان» برای سامان‌دهی همکاری انسان و عامل هوش مصنوعی، پنج مؤلفه پاسخ‌گویی معلوم، یادگیری و سلامت مهارت، مرز اختیار، ارزیابی اثر و نمایندگی کارکنان را از اجزای این چارچوب عنوان کرد.

به گفته وی، این چارچوب زمانی قابلیت عملیاتی پیدا می‌کند که به تصمیم‌های مشخص و قابل پیگیری، از جمله تعیین مالک پاسخ‌گو، سطح دسترسی مجاز، معیار پذیرش خروجی و مسیر رسیدگی به اعتراض و خطا منجر شود.

او همچنین پیشنهاد کرد هر عامل هوشمند پیش از دریافت اختیار اقدام، یک «شناسنامه» داشته باشد که مأموریت عامل، مسئول پاسخ‌گو، حدود دسترسی، شرایط تأیید و توقف فعالیت و زمان بازبینی عملکرد آن را مشخص کند.

سیاست‌سنجی با دوقلوی دیجیتال

چیت‌ساز در بخش دیگری از سخنان خود از طراحی یک دوقلوی دیجیتال با قابلیت سیاست‌سنجی خبر داد و گفت تغییر سطح اختیار عامل‌های هوشمند از موضوعاتی است که می‌توان آثار آن را پیش از اجرای واقعی بررسی کرد.

به گفته او، با این رویکرد می‌توان سناریوهای مختلف سیاستی را پیش از اجرا آزمود و برای نمونه، اثر افزایش سطح اختیار یک عامل هوشمند بر کیفیت تصمیم‌گیری، یادگیری کارکنان و میزان پاسخ‌گویی سازمان را بررسی کرد.

وی تأکید کرد نتایج این سیاست‌سنجی باید همراه با فرض‌ها، داده‌های مورد استفاده و محدودیت‌های مدل تفسیر شود و ارزیابی آثار واقعی سیاست‌ها پس از اجرا نیز ادامه داشته باشد.

میان‌بر تک‌مسیر

• عصاره خبر: وزارت ارتباطات بر تعیین حدود اختیار و مسئول پاسخ‌گوی عامل‌های هوشمند پیش از واگذاری اختیار اقدام تأکید کرد.

• مسیر اقدام: تعیین سطح دسترسی، نقاط تأیید انسانی، معیار پذیرش خروجی و مسیر رسیدگی به خطا.

• ایده تک: «شناسنامه عامل هوشمند» می‌تواند یک الگوی عملی برای مشخص‌کردن مأموریت، دسترسی، مسئول پاسخ‌گو و شرایط توقف هر عامل در سازمان‌ها باشد.

• ایستگاه بعدی: ابلاغ مصوبه‌ شکل‌گیری اپراتورهای هوش مصنوعی در دولت