يشعر المدافعون عن حقوق المعوقين بالقلق إزاء التمييز في أدوات التوظيف بالذكاء الاصطناعي

سلم من خلال فتحة إلى السماء

السيدة تك | جيتي



قد تعتمد قدرتك على الحصول على وظيفتك التالية على مدى نجاحك في لعب إحدى الألعاب التي تعمل بالذكاء الاصطناعي والتي تحبها الشركات أسترازينيكا و رفقاء البريد تستخدم بشكل متزايد في عملية التوظيف.

أقدم جهاز كمبيوتر لا يزال قيد الاستخدام

تزعم بعض الشركات التي تصنع هذه الألعاب ، مثل Pymetrics و Arctic Shores ، أنها تحد من التحيز في التوظيف. ولكن قد يكون من الصعب بشكل خاص التنقل في ألعاب التوظيف التي تعمل بالذكاء الاصطناعي للباحثين عن عمل من ذوي الإعاقة.





في الحلقة الأخيرة من البودكاست في الآلات التي نثق بها في MIT Technology Review ، نستكشف كيف يمكن لألعاب التوظيف المدعومة بالذكاء الاصطناعي والأدوات الأخرى استبعاد الأشخاص ذوي الإعاقة. وبينما يتطلع الكثير من الناس في الولايات المتحدة إلى اللجنة الفيدرالية المسؤولة عن التمييز في التوظيف لتنظيم هذه التقنيات ، فإن الوكالة لم تتحرك بعد.

للحصول على نظرة فاحصة ، سألنا هنري كلايبول ، محلل سياسة الإعاقة ، للعب أحد بيميتريكس ألعاب. يقيس Pymetrics تسع مهارات ، بما في ذلك الاهتمام والكرم وتحمل المخاطر ، الرئيس التنفيذي والشريك المؤسس فريدا بولي يقول تتعلق بالنجاح الوظيفي.

عندما تعمل مع شركة تتطلع إلى توظيف أشخاص جدد ، تطلب Pymetrics أولاً من الشركة تحديد الأشخاص الذين ينجحون بالفعل في الوظيفة التي تحاول شغلها وجعلهم يلعبون ألعابها. بعد ذلك ، لتحديد المهارات الأكثر تحديدًا للموظفين الناجحين ، يقوم بمقارنة بيانات لعبتهم ببيانات مأخوذة من عينة عشوائية من اللاعبين.



عندما قام بتسجيل الدخول ، طلبت اللعبة من Claypool الاختيار بين نسخة معدلة - مصممة لمن يعانون من عمى الألوان ، أو ADHD ، أو عسر القراءة - وإصدار غير معدل. هذا السؤال يطرح معضلة للمتقدمين من ذوي الإعاقة ، على حد قوله.

الخوف هو أنني إذا نقرت على أحد هذه الأشياء ، فسأكشف عن شيء ما سيؤدي إلى استبعادني للوظيفة ، وإذا لم أنقر على - قل - عسر القراءة أو أيًا كان ما يجعل من الصعب علي قراءة الرسائل و يقول كلايبول إن معالجة هذه المعلومات بسرعة ، وسأكون في وضع غير مؤات. سأفشل في كلتا الحالتين.

اختبرنا أدوات مقابلة الذكاء الاصطناعي. هذا ما وجدناه.

واحدة أعطت مرشحتنا درجة عالية في إتقان اللغة الإنجليزية عندما تحدثت باللغة الألمانية فقط.

يقول بولي إن Pymetrics لا تخبر أصحاب العمل عن المتقدمين الذين طلبوا أماكن إقامة في اللعبة أثناء عملية التوظيف ، مما يساعد على منع أصحاب العمل من التمييز ضد الأشخاص ذوي الإعاقات المعينة. وأضافت أنه ردًا على تقريرنا ، ستجعل الشركة هذه المعلومات أكثر وضوحًا حتى يعرف المتقدمون أن حاجتهم إلى مكان إقامة داخل اللعبة هو أمر خاص وسري.



يتطلب قانون الأمريكيين ذوي الإعاقة من أصحاب العمل توفير تسهيلات معقولة للأشخاص ذوي الإعاقة. وإذا استبعدت تقييمات التوظيف في الشركة الأشخاص ذوي الإعاقة ، فيجب أن تثبت أن هذه التقييمات ضرورية للوظيفة.

لأصحاب العمل ، باستخدام ألعاب مثل تلك التي تنتجها شواطئ القطب الشمالي قد يبدو أكثر موضوعية. على عكس الاختبارات النفسية التقليدية ، تقوم خوارزمية Arctic Shores بتقييم المرشحين على أساس اختياراتهم طوال اللعبة. ومع ذلك ، غالبًا ما لا يعرف المرشحون ما الذي تقيسه اللعبة أو ما يمكن توقعه أثناء اللعب. بالنسبة للمتقدمين من ذوي الإعاقة ، فإن هذا يجعل من الصعب معرفة ما إذا كان ينبغي عليهم طلب الإقامة.

يقول سيف حماد ، كبير موظفي التكنولوجيا والشريك المؤسس لشركة Arctic Shores ، إن فريقه يركز على جعل تقييماته في متناول أكبر عدد ممكن من الأشخاص. يقول إن الأشخاص الذين يعانون من عمى الألوان وإعاقات السمع يمكنهم استخدام برامج الشركة دون تجهيزات خاصة ، ولكن يجب على أصحاب العمل عدم استخدام مثل هذه الطلبات لفحص المرشحين.

يمكن أن يؤدي استخدام هذه الأدوات في بعض الأحيان إلى استبعاد الأشخاص بطرق قد لا تكون واضحة لصاحب العمل المحتمل. باتي سانشيز هو أخصائي توظيف في مركز تدريب ماكدونالد في فلوريدا الذي يعمل مع الباحثين عن عمل من الصمم أو ضعاف السمع. منذ حوالي عامين ، تقدمت إحدى عملائها بطلب للحصول على وظيفة في أمازون التي تطلبت مقابلة عبر الفيديو HireVue .

حاول سانشيز ، وهو أيضًا أصم ، الاتصال وطلب المساعدة من الشركة ، لكنه لم يتمكن من الوصول. وبدلاً من ذلك ، أحضرت موكلها ومترجم لغة الإشارة إلى موقع التوظيف وأقنعت الممثلين هناك بإجراء مقابلة معه شخصيًا. استأجرت أمازون عميلها ، لكن سانشيز تقول إن مثل هذه المشكلات شائعة عند التنقل في الأنظمة الآلية. (لم ترد أمازون على طلب للتعليق).

إن إتاحة الوصول إلى تكنولوجيا التوظيف يعني ضمان أن يتمكن المرشح من استخدام التكنولوجيا وأن المهارات التي يقيسها لا تستبعد بشكل غير عادل المرشحين ذوي الإعاقة ، كما يقول الكسندرا جيفنز ، الرئيس التنفيذي لشركة مركز الديمقراطية والتكنولوجيا ، وهي منظمة تركز على الحقوق المدنية في العصر الرقمي.

غالبًا ما تفشل أدوات التوظيف التي تعمل بالذكاء الاصطناعي في تضمين الأشخاص ذوي الإعاقة عند إنشاء بيانات التدريب الخاصة بهم ، كما تقول. لطالما تم استبعاد هؤلاء الأشخاص من القوى العاملة ، لذا فإن الخوارزميات التي تم وضعها على غرار التعيينات السابقة للشركة لن تعكس إمكاناتهم.

حتى لو استطاعت النماذج أن تأخذ في الحسبان القيم المتطرفة ، فإن الطريقة التي تظهر بها الإعاقة تختلف بشكل كبير من شخص لآخر. يمكن أن يكون لشخصين مصابين بالتوحد ، على سبيل المثال ، نقاط قوة وتحديات مختلفة جدًا.

نظرًا لأننا نتمتع بأتمتة هذه الأنظمة ، ويدفع أصحاب العمل إلى الأسرع والأكثر فاعلية ، فإنهم يفقدون الفرصة أمام الأشخاص لإظهار مؤهلاتهم بالفعل وقدرتهم على القيام بالمهمة ، كما يقول جيفنز. وهذه خسارة فادحة.

نهج عدم التدخل

يجد المنظمون الحكوميون صعوبة في مراقبة أدوات التوظيف بالذكاء الاصطناعي. في ديسمبر 2020 ، كتب 11 عضوًا في مجلس الشيوخ بريد إلكتروني الى لجنة تكافؤ فرص العمل الأمريكية الإعراب عن مخاوف بشأن استخدام تقنيات التوظيف بعد جائحة كوفيد -19. استفسرت الرسالة عن سلطة الوكالة في التحقيق فيما إذا كانت هذه الأدوات تميز ، لا سيما ضد ذوي الإعاقة.

ردت EEOC برسالة في يناير تم تسريبها إلى MIT Technology Review . في الرسالة ، أشارت اللجنة إلى أنها لا تستطيع التحقيق في أدوات التوظيف بالذكاء الاصطناعي دون ادعاء تمييز محدد. كما أوضحت الرسالة مخاوف بشأن تردد الصناعة في مشاركة البيانات وقالت إن الاختلاف بين برمجيات الشركات المختلفة سيمنع EEOC من وضع أي سياسات عامة.

يقول: لقد فوجئت وخيبة أمل عندما رأيت الرد رولاند بيم ، محام ومدافع عن الأشخاص الذين يعانون من مشاكل تتعلق بالصحة السلوكية. يبدو أن المضمون الكامل لهذه الرسالة يجعل لجنة تكافؤ فرص العمل تبدو وكأنها متفرج سلبي أكثر من كونها وكالة تنفيذية.

عادة ما تبدأ الوكالة التحقيق بمجرد أن يقدم الفرد شكوى بالتمييز. مع تكنولوجيا التوظيف بالذكاء الاصطناعي ، لا يعرف معظم المرشحين سبب رفضهم للوظيفة. أعتقد أن سببًا لعدم رؤيتنا المزيد من إجراءات الإنفاذ أو التقاضي الخاص في هذا المجال يرجع إلى حقيقة أن المرشحين لا يعرفون أنه يتم تصنيفهم أو تقييمهم بواسطة جهاز كمبيوتر ، كما يقول كيث نيرد ، مفوض EEOC.

كم أنا جذابة

يقول Sonderling إنه يعتقد أن الذكاء الاصطناعي سيحسن عملية التوظيف ، ويأمل أن تصدر الوكالة إرشادات لأصحاب العمل حول أفضل السبل لتنفيذها. يقول إنه يرحب بإشراف الكونجرس.

يختبر المدققون خوارزميات التوظيف للتحقق من التحيز ، ولكن لا يوجد حل سهل

قد تتجاهل عمليات تدقيق الذكاء الاصطناعي أنواعًا معينة من التحيز ، ولا تتحقق بالضرورة من أن أداة التوظيف تختار أفضل المرشحين لوظيفة ما.

ومع ذلك، آرون ريكي ، مدير عام تحسن أعربت ، وهي منظمة غير ربحية مكرسة للحقوق المدنية والتكنولوجيا ، عن خيبة أملها في استجابة EEOC: آمل في الواقع أنه في السنوات القادمة ، يمكن أن تكون EEOC أكثر عدوانية وإبداعًا في التفكير حول كيفية استخدام هذه السلطة.

بولين كيم ، أستاذ القانون في جامعة واشنطن في سانت لويس ، الذي يركز بحثه على أدوات التوظيف الخوارزمية ، يقول إن EEOC يمكن أن تكون أكثر استباقية في جمع البحوث وتحديث المبادئ التوجيهية لمساعدة أرباب العمل وشركات الذكاء الاصطناعي على الامتثال للقانون.

ويضيف بيم أن لجنة تكافؤ فرص العمل (EEOC) يمكنها أن تتبع طرقًا أخرى للتنفيذ ، بما في ذلك تهمة المفوض ، والتي تسمح للمفوضين ببدء التحقيق في التمييز المشتبه به بدلاً من طلب مطالبة فردية (يقول Sonderling إنه يفكر في توجيه مثل هذه التهمة). كما يقترح أن تقوم لجنة تكافؤ فرص العمل (EEOC) بالتشاور مع مجموعات المناصرة لتطوير مبادئ توجيهية لشركات الذكاء الاصطناعي التي تأمل في تمثيل الأشخاص ذوي الإعاقة بشكل أفضل في نماذجهم الخوارزمية.

يقول بيم إنه من غير المحتمل أن تقوم شركات الذكاء الاصطناعي وأرباب العمل بفحص الأشخاص ذوي الإعاقة عن قصد. لكنهم لم يقضوا الوقت والجهد اللازمين لفهم الأنظمة التي تتخذ قرارات تغير حياتهم بالنسبة لكثير من الناس: هل سيتم تعييني أم لا؟ هل يمكنني إعالة أسرتي أم لا؟

يخفي

التقنيات الفعلية

فئة

غير مصنف

تكنولوجيا

التكنولوجيا الحيوية

سياسة التكنولوجيا

تغير المناخ

البشر والتكنولوجيا

وادي السيليكون

الحوسبة

مجلة Mit News

الذكاء الاصطناعي

الفراغ

المدن الذكية

بلوكشين

قصة مميزة

الملف الشخصي للخريجين

اتصال الخريجين

ميزة أخبار معهد ماساتشوستس للتكنولوجيا

1865

وجهة نظري

77 Mass Ave

قابل المؤلف

ملامح في الكرم

شوهد في الحرم الجامعي

خطابات الخريجين

أخبار

انتخابات 2020

فهرس With

تحت القبه

خرطوم الحريق

قصص لانهائية

مشروع تكنولوجيا الوباء

من الرئيس

غلاف القصه

معرض الصور

موصى به