هوش مصنوعی امروزه در فرآیند استخدام برای نوشتن آگهی‌های شغلی، غربالگری متقاضیان و انجام مصاحبه‌های اتوماتیک استفاده می‌شود. اگرچه این فناوری می‌تواند کارآمدی را افزایش دهد، اما در صورت استفاده نادرست ممکن است باعث تبعیض‌های گسترده شود.
نقش هوش مصنوعی در استخدام چیست؟
با گسترش شیوع کرونا، استخدام آنلاین جایگاه بسیار بیشتری یافت. امروزه بسیاری از شرکت‌ها به دلیل حجم بالای استعفاهای جمعی، نیاز به سیستم‌های هوش مصنوعی برای پردازش سریع درخواست‌ها دارند. این فناوری در واقع تصمیماتی را انجام می‌دهد که قبلاً مدیران منابع انسانی انجام می‌دادند، مانند پیش‌بینی تمایل متقاضی به شغل یا برنامه‌ریزی آموزش‌ها.
چرا تنوع داده‌های آموزشی هوش مصنوعی مهم است؟
هوش مصنوعی به داده‌هایی که با آن‌ها آموزش دیده است، وابسته است. اگر این داده‌ها تنوع کافی نداشته باشند، سیستم به طور خودکار تبعیض خواهد کرد. به عنوان مثال:
| شرکت | مشکل | نتیجه |
|---|---|---|
| آمازون | استفاده از داده‌های ۱۰ ساله استخدام‌های مردانه | رد خودکار رزومه‌های زنان و متوقف کردن سیستم در سال ۲۰۱۷ |
| فیسبوک | سیستم استخدامی تبعیض‌آمیز علیه کارگران آمریکایی | پرداخت ۱۴.۲۵ میلیون دلار جریمه به دولت آمریکا |
راه‌حل‌های جلوگیری از تبعیض
برای استفاده عادلانه از هوش مصنوعی باید:
- داده‌های آموزشی را از نظر تنوع و عدالت بررسی کرد
- از سیستم‌هایی استفاده کرد که تأثیرات منفی را حذف می‌کنند
- شفافیت در نحوه عملکرد الگوریتم‌ها را رعایت کرد
به عنوان نمونه، شرکت HireVue سیستم‌های خود را بر اساس دستورالعمل‌های شورای فرصت‌های برابر آمریکا طراحی کرده است تا محدودیت‌های جنسیتی و نژادی را کاهش دهد.
چالش‌های گسترده‌تر در استفاده از هوش مصنوعی
این مشکل تنها به حوزه استخدام محدود نمی‌شود. دکتر اد ایکوگوتچی، متخصص هوش مصنوعی در حوزه پزشکی، تأکید می‌کند:
- بیشتر داده‌های موجود توسط گروه‌های خاص (مانند برنامه‌نویسان سفیدپوست) تولید شده‌اند
- الگوریتم‌ها ممکن است در شرایط واقعی قضاوت‌های نادرست انجام دهند
- نیاز به نظارت دائمی بر عملکرد سیستم‌ها وجود دارد
برای جلوگیری از این مشکلات، باید الگوریتم‌ها را مدام بررسی کرده و شفافیت کافی در نحوه آموزش آن‌ها ایجاد کرد.
چگونه از خطرات هوش مصنوعی جلوگیری کنیم؟
ساده‌ترین راه‌حل‌ها شامل موارد زیر است:
- انتخاب سیستم‌هایی با قابلیت بررسی خودکار تبعیض در داده‌ها
- آموزش مداوم تیم‌های فنی برای شناسایی سوگیری‌ها
- تست دوره‌ای سیستم‌ها با داده‌های متنوع
- حفظ دخالت انسانی در تصمیم‌گیری‌های نهایی
اگر این مراحل رعایت شود، هوش مصنوعی می‌تواند به ایجاد محیط کاری عادلانه‌تر کمک کند، نه اینکه تبعیض را تشدید کند.