تشكل أدوات التوظيف القائمة على الذكاء الاصطناعي مصدر قلق للمدافعين عن حقوق الإنسان

من المحتمل أن تعتمد وظيفتك التالية على قدرتك على تجاوز إحدى ألعاب الذكاء الاصطناعي من قبل بعض الشركات ، على سبيل المثال: أسترازينيكا: و:سعاة البريد:لقد أصبحت أكثر اعتمادًا عليهم في عملية التوظيف.

يدعي بعض مطوري الألعاب هؤلاء ، مثل Baymetrics և Arctic Shores ، أنهم يقللون من التمييز في التوظيف. ومع ذلك ، يمكن أن تكون ألعاب التوظيف بالذكاء الاصطناعي تحديًا خاصًا للباحثين عن عمل بتصميم.

في الحلقة الأخيرة من بودكاست MIT Technology Review بعنوان: بالسيارة حتى اثق [باللغة الإنجليزية]في هذه الدراسة ، استكشفنا ألعاب التجميع القائمة على الذكاء الاصطناعي – وهي أدوات أخرى تستبعد التحديد. على الرغم من أن العديد من الأشخاص في الولايات المتحدة يلجأون إلى الوكالة الفيدرالية للتمييز في العمل لتنظيم استخدام هذه التقنيات ، إلا أن الوكالة لم تتخذ أي إجراء بعد.

طلبنا المزيد من التفاصيل هنري كلايبول، وهو محلل سياسة الإعاقة ، لتجربة إحدى الألعاب القياسات الحيوية:. يقيس Baymetrics تسع مهارات ، بما في ذلك الاهتمام والكرم وتحمل المخاطر ، كما يقول الرئيس التنفيذي – أحد مؤسسي الشركة. فريدا بول هم ضروريون للنجاح في العمل.

عندما تعمل مع شركة تريد توظيف أشخاص جدد ، تطلب Baymetrics منهم تحديد الأشخاص الذين نجحوا في المناصب التي تحاول شغلها ، وتطلب منهم ممارسة هذه الألعاب. بعد ذلك ، لتحديد مهارات الموظفين الناجحين ، تتم مقارنة بيانات لعبتهم مع عينة عشوائية من اللاعبين.

عندما دخلت Claypool اللعبة ، طلب منها اختيار النسخة المعدلة للأشخاص الذين يعانون من عمى الألوان أو ADHD أو عسر القراءة ، “النسخة غير المعدلة”. يقول أن هذه معضلة لأصحاب العزم.

هو يضيف: “أخشى أن اختيار النسخة المعدلة يعني الكشف عن المعلومات التي ستؤدي إلى فقدان وظيفتي ، واختيار النسخة غير المعدلة ، على سبيل المثال ، مع عسر القراءة ، يمكن أن يعني صعوبة كبيرة في قراءة المعلومات بسرعة ، مما يضعني في موقف صعب . يبدو أنني سأفشل على أي حال “.

يقول بول إن Baymetrics لا تخبر المقاولين بأسماء المتقدمين الذين طلبوا ألعابًا معدلة أثناء عملية التوظيف ، مما قد يمنع الشركات من التمييز ضد الأشخاص ذوي الإعاقات المعينة. يضيف بول أن الشركة ، بناءً على بياننا الصحفي ، ستجعل هذه المعلومات أكثر وضوحًا للمتقدمين حتى يعلموا أن الحاجة إلى إصدارات معدلة من اللعبة ستظل سرية.

يتطلب قانون الأمريكيين ذوي الإعاقة من أصحاب العمل توفير تسهيلات معقولة للأشخاص ذوي الإعاقة. إذا كانت تصنيفات توظيف الشركة تمنع التحديد ، فيجب على الشركة إظهار أن هذه التصنيفات ضرورية للوظيفة.

ولأصحاب العمل الذين يستخدمون نوع الألعاب التي تنتجها ساحل القطب الشمالي يمكن أن يكون أكثر موضوعية. على عكس الاختبارات النفسية التقليدية ، تقوم خوارزميات Arctic Shores بتقييم المرشحين بناءً على اختيارهم أثناء اللعبة. ومع ذلك ، غالبًا ما لا يعرف المرشحون بالضبط ما الذي تقيسه اللعبة أو ما يمكن أن يتوقعوا لعبه. بالنسبة لأولئك الذين يتم تحديدهم ، سيشعرون بالحيرة من طلب نسخة معدلة.

يقول سيف حماد ، المؤسس المشارك ورئيس قسم التكنولوجيا في Arctic Shore ، إن فريقه يركز على جعل عملية التقييم في متناول أكبر عدد ممكن من الأشخاص. ويضيف أن الأشخاص الذين يعانون من عمى الألوان وضعاف السمع يمكنهم استخدام برامج الشركة دون أي تعديل خاص ، ولكن يجب على الشركات الامتناع عن التمييز بين المتقدمين.

ومع ذلك ، قد يؤدي استخدام هذه الأدوات في بعض الأحيان إلى طرد الأشخاص بطريقة غير واضحة للشركات. الموظف: بيتي سانشيز كأخصائي توظيف: مركز ماكدونالد للتدريب في فلوريدا ، يركز على الباحثين عن عمل من الصم وضعاف السمع. منذ حوالي عامين ، تقدم أحد عملائه بطلب للحصول على وظيفة أمازون:وظيفة تتطلب مكالمة فيديو حلاقة شعر.

حاول سانشيز ، وهو أيضًا أصم ، الاتصال بالشركة للحصول على المساعدة ، لكنه لم ينجح. وبدلاً من ذلك ، استعان بمترجم لغة إشارة لموكله وأقنع ممثلي الشركة بمقابلته شخصيًا. على الرغم من أن أمازون وظفت هذا العميل ، يقول سانشيز إن هذه المشكلات شائعة في الأنظمة الآلية. (لم ترد أمازون على طلب للتعليق على هذا الحادث).

اجعل تقنية تأهيل Rec متاحة لجميع الوسائل لضمان أن المرشح يمكنه استخدام هذه التكنولوجيا حتى لا يتم استبعاده بعد الاستبعاد بسبب إعاقته ، وفقًا لـ الكسندرا جيفنز، الرئيس التنفيذى الديمقراطية և مركز التكنولوجيا، وهي منظمة تركز على الحقوق المدنية في العصر الرقمي.

يقول إن أدوات التوظيف المستندة إلى الذكاء الاصطناعي غالبًا لا تشمل الأشخاص العازمين على إنشاء بيانات التعلم. لطالما تم استبعاد هؤلاء الأشخاص من القوى العاملة ، لذا فإن الخوارزميات المصممة على غرار العمل السابق للشركات لن تعكس إمكاناتهم.

حتى لو تمكنت النماذج من أخذ الحالات النادرة في الاعتبار ، فإن الإعاقة تظهر بطرق مختلفة من شخص لآخر. على سبيل المثال ، قد يعاني شخصان مصابان بالتوحد من مشاكل ونقاط قوة مختلفة.

يقول Givens: “مع تسارع الشركات إلى أتمتة هذه الأنظمة – أسرع – أنظمة أكثر كفاءة ، فإننا نفقد الفرصة لهؤلاء الأشخاص لإظهار مهاراتهم وقدرتهم على إنجاز المهمة”. هذه خسارة فادحة “.

نهج غير مباشر

يجد المنظمون الحكوميون صعوبة في التحكم في أدوات جمع الذكاء الاصطناعي. في كانون الأول (ديسمبر) 2020 ، كتب 11 من أعضاء مجلس الشيوخ رسالة: إلي لجنة تكافؤ فرص العمل الأمريكيةالإعراب عن مخاوفهم بشأن استخدام تقنيات التوظيف بعد وباء COVID-19. تدعو الرسالة إلى التشكيك في سلطة الوكالة في التحقيق في التمييز في هذه الصكوك ، وخاصة ضد الأفراد ذوي العزم.

ردت الحكومة رسالة: ظهرت هذه الرسالة في MIT Technology Review في يناير. ذكرت السلطات في هذه الرسالة أنها لا تستطيع فتح تحقيق في أدوات التوظيف بمساعدة الذكاء الاصطناعي دون ادعاء محدد بالتمييز. كما أعربت الرسالة عن القلق بشأن إحجام الصناعة عن مشاركة البيانات ، قائلة إن التناقضات بين برامج الشركات المختلفة يمكن أن تمنع الوكالة من فرض سياسات حكومية.

هي تقول رونالد بيمإنه المدافع عن مصالح الأشخاص الذين يعانون من مشاكل صحية سلوكية. “شعرت بالدهشة وخيبة الأمل عندما قرأت هذه الإجابة. تشير لهجة الرسالة بأكملها إلى أن اللجنة هي مراقب سلبي أكثر من كونها وكالة لإنفاذ القانون “.

عادة ما تبدأ الوكالة تحقيقًا عندما يشتكي شخص ما من التمييز. ومع ذلك ، نظرًا لتكنولوجيا التوظيف بمساعدة الذكاء الاصطناعي ، فإن معظم المتقدمين لا يعرفون سبب رفض طلباتهم الوظيفية. هي تقول كيت ساندرلينج هو مفوض في اللجنة.

يقول Sonderling إنه يعتقد أن الذكاء الاصطناعي سيحسن عملية التوظيف ، ويأمل أن توجه الوكالة الشركات لتحقيق أقصى استفادة من التكنولوجيا. وأضاف أنه يرحب برقابة الكونجرس.

هو آرون ريكهو المدير التنفيذي للمنظمة بديل: أعربت المنظمة غير الربحية المكرسة للحقوق المدنية والتكنولوجيا عن خيبة أملها من استجابة اللجنة.

ويضيف: بولين كيمهو أستاذ قانون جامعة واشنطن ، سانت لويسومن خلال التركيز على أبحاثها حول أدوات جمع الخوارزميات ، يمكن للوكالة أن تكون أكثر فاعلية في بدء البحث وتحديث إرشاداتها لمساعدة الموظفين وشركات إنفاذ القانون في تطبيق القانون.

يضيف بيم أن اللجنة قد تركز على مجالات أخرى لإنفاذ القانون ، مثل تفويض المفوض بفتح تحقيق عند الاشتباه في التمييز ، بدلاً من التماس شكوى فردية (يقول ساندرلينج إنه يفكر في الفكرة).) كما يفترض أيضًا أن الحكومة على اتصال مع مجموعات الدعوة والدعم لتطوير مبادئ توجيهية لمؤسسات الذكاء الاصطناعي على أمل تمثيل أفضل للأشخاص ذوي الهمم في النماذج الحسابية.

يضيف بيم أنه من غير المرجح أن تتحكم شركات الذكاء الاصطناعي والشركات التي توظف في العمل عن عمد ، وتستبعد الأشخاص المصممين. لكنها لم “تقضي وقتًا كافيًا” في محاولة الفهم الكامل لأنظمة صنع القرار التي تؤثر على الكثير من الناس. هل سأذهب للعمل أم لا؟ هل سأكون قادرًا على إعالة أسرتي أم لا؟ “

أضف تعليق