AI náborové nástroje môžu diskriminovať uchádzačov, varujú odborníci
Náborové nástroje využívajúce umelú inteligenciu sa stali bežnou súčasťou rekrutačných procesov. Podľa platformy Jobscan používa 492 spoločností z rebríčka Fortune 500 systémy na sledovanie uchádzačov, aby zefektívnili nábor. Aj keď tieto technológie pomáhajú filtrovať množstvo životopisov a identifikovať vhodných kandidátov, odborníci na ľudské zdroje a právo varujú, že nesprávne nastavenie týchto nástrojov môže viesť k prehlbovaniu diskriminácie.
Štúdia publikovaná University of Washington Information School v minulom roku odhalila, že AI pri hodnotení životopisov v deviatich rôznych profesiach uprednostňovala meno priradené bielym uchádzačom v 85,1 % prípadov a meno priradené ženám len v 11,1 % prípadov. V niektorých situáciách boli černosi mužského pohlavia diskriminovaní vo všetkých prípadoch v porovnaní s bielymi uchádzačmi. Kyra Wilson, spoluautorka štúdie, upozornila na problém skreslených dát, ktoré vedú k skresleným algoritmom, čo môže viesť k ďalšiemu prehlbovaniu diskriminácie.
Niektorí pracovníci už čelia dôkazom o diskriminácii aj mimo laboratórnych podmienok. Minulý mesiac podalo päť žalobcov starších ako 40 rokov hromadnú žalobu na spoločnosť Workday, ktorá vyvíja softvér pre nábor. Derek Mobley, jeden z žalobcov, tvrdí, že algoritmy Workday ho diskriminovali na základe rasy, veku a zdravotného postihnutia, čo viedlo k odmietnutiu viac ako 100 žiadostí o prácu za sedem rokov. Spoločnosť tieto obvinenia popiera a uvádza, že jej AI nástroje nerozhodujú o nábore, ale iba porovnávajú kvalifikácie uchádzačov s požiadavkami pracovných pozícií.
Problém nespočíva len v náborových nástrojoch. Skupina 200 zamestnancov so zdravotným postihnutím obvinila spoločnosť Amazon z porušovania zákona o Američanoch so zdravotným postihnutím (ADA). Podľa sťažnosti Amazon používa AI procesy, ktoré nerešpektujú štandardy ADA pri rozhodovaní o úpravách pracovných podmienok pre postihnutých zamestnancov. Amazon tvrdí, že AI nemá posledné slovo pri rozhodovaní o úpravách a že firma dbá na zodpovedné používanie umelj inteligencie.
Prečo môžu AI nástroje diskriminovať?
AI náborové systémy fungujú na základe dát, ktoré im poskytneme. Ak sú trénované na skreslených dátach – napríklad na historických náborových rozhodnutiach, ktoré uprednostňovali určité skupiny uchádzačov – reprodukujú tieto vzorce diskriminácie. Elaine Pulakos z PDRI vysvetlila, že ak dáta obsahujú nevedomé predsudky, AI ich len zosilní. Právnička Pauline Kim zdôraznila, že diskriminácia pomocou AI je odrazom ľudskej diskriminácie, ktorá pretrváva aj napriek zákonným ochranám.
Metaanalýza Northwestern University z roku 2023 potvrdila, že zamestnávatelia stále uprednostňujú bielych uchádzačov pred černošskými a latino uchádzačmi, aj keď majú identické životopisy. Victor Schwartz z Bold upozornil, že AI môže diskrimináciu buď znížiť, alebo zintenzívniť – závisí to od toho, ako je systém nastavený.
Ako sa bojuje proti AI diskriminácii?
V súčasnosti nie sú špecifické federálne predpisy, ktoré by regulovali používanie AI v nábore. Zákon však zakazuje aj neúmyselnú diskrimináciu, keď neutrálne politiky majú neúmerný dopad na určité skupiny. Právnička Melanie Ronen spomenula miestne iniciatívy, ako je nariadenie v New Yorku, ktoré vyžaduje, aby AI nástroje prešli audítom pred zaužívaním.
Niektoré firmy sa snažia problém riešiť vlastnými silami. PDRI trvá na zapojení ľudských hodnotiteľov do procesu, aby skontrolovali AI rozhodnutia. Victor Schwartz vidí v AI aj potenciál na zvýšenie diverzity – napríklad automatizáciou procesu žiadosti môže pomôcť ženám, ktoré sa často neuchádzajú o pozície, ak nespĺňajú všetky kritériá.
Napriek snahám o transparentnosť a reguláciu zostáva riziko diskriminácie pomocou AI reálnym problémom, ktorý si vyžaduje väčšiu pozornosť od zákonodarcov, firiem i spoločnosti ako celku.
Sasha Rogelberg
