دعوى تمييز ضد Workday تكشف عن تحيز الذكاء الاصطناعي

تواجه شركة Workday للتكنولوجيا دعوى قضائية جماعية تزعم أن تقنية فحص المتقدمين للوظائف التي تستخدمها تنطوي على تمييز، وذلك بعد صدور أمر من قاضي مقاطعة كاليفورنيا يوم الجمعة. يمكن أن تشكل النتيجة سابقة فيما يتعلق بما إذا كان بإمكان الشركات استخدام الخوارزميات والذكاء الاصطناعي لاتخاذ قرارات التوظيف، وكيفية استخدامها، حيث تتبنى الشركات هذه التكنولوجيا بشكل متزايد.

في العام الماضي، رفع رجل يُدعى ديريك موبلي دعوى قضائية ضد شركة برمجيات الموارد البشرية مدعياً أن خوارزميات Workday تسببت في رفضه من أكثر من 100 وظيفة على المنصة على مدار سبع سنوات بسبب عمره وعرقه وإعاقته. وقد انضم أربعة مدعين آخرين منذ ذلك الحين بمزاعم التمييز على أساس السن.

ويزعم المدعون معًا، وجميعهم فوق سن الأربعين، أنهم قدموا مئات طلبات التوظيف من خلال Workday وتم رفضهم في كل مرة أحيانًا في غضون دقائق أو ساعات. ويلقون باللوم على خوارزمية Workday، التي يزعمون أنها "تستبعد بشكل غير متناسب الأفراد الذين تزيد أعمارهم عن (40 عامًا) من الحصول على عمل مربح" عندما تقوم بفحص وتصنيف المتقدمين للوظائف، كما جاء في وثائق المحكمة.

سيسمح الأمر التمهيدي الذي أصدرته القاضية ريتا لين يوم الجمعة بالمضي قدمًا في القضية كدعوى جماعية على غرار الدعاوى الجماعية.

يمكن لأدوات الذكاء الاصطناعي أن تساعد أخصائيي الموارد البشرية في إدارة تدفق مئات الطلبات التي يتلقونها والتي قد يكون بعضها قد تم إنشاؤه باستخدام الذكاء الاصطناعي. لكن الخبراء قلقون بشأن التكنولوجيا التي تقرر أي المرشحين "الأكثر تأهيلاً" لأن الذكاء الاصطناعي يمكن أن يحتوي على تحيزات قد تمنع الأشخاص من الحصول على وظيفة بناءً على أعمارهم أو جنسهم أو عرقهم أو خصائص أخرى.

على سبيل المثال، حذر الاتحاد الأمريكي للحريات المدنية من أن أدوات التوظيف التي تعتمد على الذكاء الاصطناعي "تشكل خطرًا هائلاً من تفاقم التمييز القائم في مكان العمل". في إحدى الحالات البارزة في عام 2018، تخلصت شركة أمازون من أداة آلية لتصنيف المرشحين للوظائف بعد أن وجدت أن النظام يفضل المتقدمين الذكور على النساء.

ومع ذلك، نفت Workday الادعاءات بأن تقنيتها تمييزية. وفي بيان، أشار متحدث باسم شركة Workday إلى أن الأمر الصادر يوم الجمعة هو "حكم إجرائي أولي... يعتمد على مزاعم وليس على أدلة".

وقال المتحدث: "ما زلنا نعتقد أن هذه القضية لا أساس لها من الصحة". "نحن واثقون من أنه بمجرد السماح لشركة Workday بالدفاع عن نفسها بالحقائق، سيتم رفض ادعاءات المدعي."

مئات الطلبات، لا توجد وظيفة

توفر Workday، التي تستخدمها أكثر من 11 ألف مؤسسة حول العالم، منصة للشركات لنشر الوظائف الشاغرة وتوظيف المرشحين وإدارة عملية التوظيف؛ حيث يتم إدراج ملايين الوظائف الشاغرة باستخدام تقنيتها كل شهر. كما أنها تقدم خدمة تسمى "HiredScore AI"، والتي تقول إنها تستخدم "الذكاء الاصطناعي المسؤول" لتصنيف أفضل المرشحين وتقليل الوقت الذي يقضيه مسؤولو التوظيف في فحص الطلبات.

في ملف المحكمة الذي يعارض مزاعم الدعوى القضائية، تدعي Workday أنها لا تقوم بفحص الموظفين المحتملين للعملاء وأن تقنيتها لا تتخذ قرارات التوظيف.

لكن موبلي يدعي أنه تم رفضه مرارًا وتكرارًا غالبًا دون أن يُعرض عليه مقابلة على الرغم من تخرجه بامتياز من كلية مورهاوس وخبرته التي تقارب العقد من الزمن في الوظائف المالية وتكنولوجيا المعلومات وخدمة العملاء. في إحدى المرات، قدم طلب توظيف في الساعة 12:55 صباحًا وتلقى إشعارًا بالرفض بعد أقل من ساعة في الساعة 1:50 صباحًا، وفقًا لوثائق المحكمة.

وقالت مدعية أخرى، جيل هيوز، إنها تلقت بالمثل رفضاً آلياً لمئات الوظائف "غالباً ما يتم استلامها في غضون ساعات قليلة من تقديم الطلبات أو في أوقات غريبة خارج ساعات العمل... مما يشير إلى أن الإنسان لم يراجع الطلبات"، كما جاء في وثائق المحكمة. وفي بعض الحالات، تدّعي أن رسائل الرفض تلك ذكرت خطأً أنها لم تستوفِ الحد الأدنى من متطلبات الوظيفة.

تنص شكوى موبلي الأصلية على أن "اتخاذ القرارات الخوارزمية وتحليلات البيانات ليست محايدة من حيث العرق أو الإعاقة أو العمر، ولا ينبغي افتراض أنها محايدة من حيث العرق أو الإعاقة أو العمر". "في كثير من الأحيان، تعزز بل وتفاقم التمييز التاريخي والحالي."

يقول الخبراء إن أدوات التوظيف التي تعتمد على الذكاء الاصطناعي يمكن أن تُظهر التحيز حتى لو لم توجهها الشركات أبدًا لتفضيل فئات معينة من الأشخاص على فئات أخرى. وغالبًا ما يتم تدريب هذه الأنظمة على السير الذاتية أو الملفات الشخصية للموظفين الحاليين ولكن إذا كانت القوى العاملة الحالية في الشركة من الذكور أو البيض إلى حد كبير، فقد تستنتج التكنولوجيا عن غير قصد أن المرشحين الأكثر نجاحًا يجب أن يتشاركوا هذه الخصائص.

وقد روى هيلكه شيلمان، مؤلف كتاب "الخوارزمية" حول استخدام الذكاء الاصطناعي في التوظيف، وهو ليس طرفاً في الدعوى القضائية المرفوعة ضد Workday، موقفاً منحت فيه أداة تقييم مختلفة للسيرة الذاتية نقاطاً أكثر للسير الذاتية التي تتضمن كلمة "بيسبول".

قال شيلمان في بودكاست شروط الخدمة في وقت سابق من هذا العام: "كانت وظيفة عشوائية لا علاقة لها بالرياضة، وربما ما حدث هو أنه من بين السير الذاتية التي حللها المحلل، ربما كان هناك مجموعة من الأشخاص الذين لديهم كلمة "بيسبول" في سيرتهم الذاتية وقامت الأداة بتحليل إحصائي ووجدت أن هذا الأمر مهم تماماً".

وأضاف: "لم يفهم الذكاء الاصطناعي انتظر لحظة، البيسبول ليس له علاقة بالوظيفة".

تزعم شكوى موبلي أن تقنية Workday تعمل بطريقة مماثلة.

تقول الشكوى: "إذا لاحظت أدوات اتخاذ القرار الخوارزمية في Workday أن العميل صاحب العمل لا يفضل بعض المرشحين الذين ينتمون إلى فئة محمية، فسوف يقلل من معدل توصيته بهؤلاء المرشحين".

سيسمح الأمر الذي أصدرته لين يوم الجمعة لمحامي موبلي بإخطار الأشخاص الآخرين الذين قد يكون لديهم دعاوى تمييز مماثلة ضد Workday والسماح لهم بالانضمام إلى الدعوى. ومع ذلك، لا يزال بإمكان Workday أن تطلب من المحكمة التعامل مع الدعاوى بشكل فردي، وليس كمجموعة.

وتسعى الدعوى القضائية إلى الحصول على تعويضات مالية غير محددة، بالإضافة إلى أمر من المحكمة يلزم الشركة بتغيير ممارساتها.