ستحتاج الشركات التي تتخذ من مدينة نيويورك مقراً لها إلى مراجعة أدوات توظيف الذكاء الاصطناعي من أجل التحيز
يوم الاربعاء، فرضت مدينة نيويورك قانونًا جديدًا ينظم الشركات التي يستخدم الذكاء الاصطناعي لفحص المرشحين للوظائف الشاغرة. يتطلب قانون أدوات قرار التوظيف الآلي (AEDT) في المدينة من الشركات إثبات أن أداة الذكاء الاصطناعي الخاصة بها خالية من التحيز العنصري والجنساني قبل استخدامها.
تم تقديم قانون AEDT ، المعروف أيضًا باسم القانون المحلي 144 ، في عام 2021 ودخل حيز التنفيذ هذا الأسبوع، مما يجعل مدينة نيويورك أول من يمهد الطريق للوائح منظمة العفو الدولية للشركات ، ويتوقع أن يحذو الآخرون حذوها. الأدوات عبارة عن خوارزميات تستخدم الذكاء الاصطناعي لاتخاذ قرارات بشأن من يتم تعيينه و / أو ترقيته ، على الرغم من التقارير التي تفيد بأن الاختيار الذي تمت تصفيته يتم تمريره إلى الإنسان للمراجعة النهائية.
ستحتاج الشركات إلى تقديم “تدقيق التحيز” سنويًا ، وإذا لم تمتثل ، فسيخضع المخالفون لأول مرة لغرامة قدرها 500 دولار ويمكن أن تؤدي الانتهاكات المتكررة إلى غرامة تصل إلى 1500 دولار. إذا لم تمتثل الشركة لتحيز التدقيق ، فستواجه غرامة ، لكل أداة من أدوات الذكاء الاصطناعي ، تصل إلى 1500 دولار يوميًا ، وفقًا لـ موصل AI.
ستحسب مراجعة التحيز معدل الاختيار ونسبة التأثير لكل فئة من الأشخاص الذين تم تعيينهم ، بما في ذلك فئات الذكور مقابل الإناث ، والعرق / الإثنية ، والفئات المتقاطعة التي تجمع بين الجنس والعرق والعرق ، وفقًا لـ قانون.
على الرغم من استخدام ملفات أدوات الذكاء الاصطناعي يمكن أن يقلل بشكل كبير من خوض أصحاب العمل في مئات السير الذاتية ، فإن الخطر يكمن في ذلك يمكن للأداة أن تعكس الصور النمطية البشرية وتميز ضد بعض المرشحين.
هذا هو الخطر في كل هذا ، الذي ترك دون رادع ، لا يستطيع البشر أحيانًا حتى شرح نقاط البيانات التي تلتقطها الخوارزمية. هذا ما كان وراء هذا التشريع إلى حد كبير ، كما قال جون هاوسكنخت ، أستاذ الموارد البشرية في كلية العلاقات الصناعية والعمل بجامعة كورنيل ، أخبار سي بي اس. “إنه يقول دعونا نتتبعها ، ونجمع البيانات ، ونحللها ، ونبلغ عنها ، لذلك بمرور الوقت ، يمكننا إجراء تغييرات على اللوائح.”
وفقًا لـ AEDT ، إذا كان ذلك ممكنًا ، يجب على الشركة تقديم تعليمات بديلة لمقدم الطلب “لطلب عملية اختيار بديلة أو تسهيلات معقولة بموجب قوانين أخرى” ، على الرغم من أن أصحاب العمل غير مطالبين بتقديم عملية اختيار بديلة.
قال كاماتشو موران ، محامي التوظيف في Farrell Fritz ، لشبكة CBS: “نحن نتحدث فقط عن تلك الأدوات التي تحل محل البشر الذين يتخذون القرارات”. “إذا كان لديك أداة للذكاء الاصطناعي تعمل من خلال 1000 تطبيق وتقول ،” هؤلاء هم أفضل 20 مرشحًا “، فمن الواضح أنها أداة تندرج ضمن تعريف AEDT.”
قد ينتشر القانون إلى مدن أخرى حيث يصبح السحب نحو التوظيف عن بُعد شائعًا بشكل متزايد للشركات ، سواء في مدينة نيويورك أو في أي مكان آخر. قالت جوليا ستويانوفيتش ، أستاذة علوم الكمبيوتر في جامعة نيويورك والعضو المؤسس لفريق عمل أنظمة القرارات التلقائية في المدينة ، إن القانون لا يزال محدودًا. ان بي سي نيوز. أخبرت المنفذ أن AEDT لا يزال لا يغطي بعض الفئات المهمة من المتقدمين ، بما في ذلك تلك القائمة على التمييز على أساس السن أو الإعاقة.
قال ستويانوفيتش للمنفذ: “بادئ ذي بدء ، أنا سعيد حقًا بأن القانون موجود في الكتب ، وأن هناك قواعد الآن وسنبدأ في تطبيقها”. ولكن هناك أيضًا الكثير من الفجوات. لذلك ، على سبيل المثال ، فإن التحيز في التدقيق محدود للغاية من حيث الفئات. نحن لا ننظر إلى التمييز على أساس العمر ، على سبيل المثال ، الذي يعد صفقة ضخمة في التوظيف ، أو الإعاقات “.
لا يزال من غير الواضح كيف سيتم تطبيق قانون AEDT ، لكن المتحدث باسم إدارة حماية المستهلك والعمال في نيويورك قال إن الوكالة “ستجمع وتحقق في الشكاوى” ضد الشركات.
