Máme tendenciu vnímať technológie ako celkom neutrálne – nerozmýšľajúce, necítiace, a preto nezaťažené ľudským sklonom k zaujatosti – ale v prípade AI (umelej inteligencie) je pravda opak. Žiaľ, a možno viac ako kedykoľvek predtým, je internet plný obsahu, ktorý odráža ľudskú bigotnosť a AI ju nielen zachytáva, ale aj zosilňuje v obsahu, ktorý produkuje.
Generatívna AI, najmä rozsiahle modely zamerané na spotrebiteľov, sú trénované na dátach získaných zo všetkých kútov internetu – článkoch, videách, knihách, tweetoch, príspevkoch na sociálnych sieťach a ďalších.
Samozrejme, toto pravdepodobne spustí poplach u každého, kto bol svedkom nepriateľstva, ktoré sa v posledných rokoch prakticky stalo synonymom pre sociálne médiá – s vedúcou podnikovou divíziou spoločnosti Check Point Software, Charlotte Wilsonovou, sme sa rozprávali na nedávnom samite Cyber Leader Summit, aby sme sa dozvedeli viac.
Generatívna AI je vytvorená tak, aby bola nápomocná – ak by sa modely necítili užitočné, neboli by populárne. Tieto modely však medzi sebou súperia, a ak vám jeden model nepovie to, čo chcete počuť, iný môže – až do bodu, keď sa stali takmer vlezdolezkami;
„Takže neuprednostňuje presnosť, uprednostňuje to, čo vie, čo sa naučil a čo si myslí, že chcete vidieť. Takže nielenže je v tomto ohľade nepresný, [ale] vám aj tak trochu dáva to, čo si myslí, že chcete počuť,“ vysvetľuje Wilsonová.
To, čo sa model naučil a čo „vie“, je neodmysliteľne poznačené ľudskou zaujatosťou. Ale ChatGPT už nie je len zábavný chatbot, s ktorým sa ľudia hrajú. Firmy tieto modely používajú pri nábore, pri analýze dát, v oblasti ľudských zdrojov a v ich každodennej činnosti.
AI nemôže byť ponechaná sama na seba, keď má do činenia s ľuďmi, tvrdí Wilsonová, a práve tam sa objaví nová pracovná pozícia „kontrolórov AI“, ktorí budú posudzovať výstup modelu na prítomnosť akejkoľvek zaujatosti a riešiť tento problém;
„Myslím si, že existuje priestor pre kontrolórov AI a existujú organizácie, ktoré túto prácu robia. Kontroluje sa: ste v bezpečí? Ste ovplyvnený? Ste infikovaný? Zamyslite sa – ak to má niečo spoločné s niečím, čo ovplyvňuje človeka, myslím si, že by ste to mali skontrolovať.“
Ale čo sa stane, ak to nestačí? Myslím na rozhovor, ktorý som viedol so spoločnosťou Workday, ktorá tvrdila, že ľudia „nie sú nevyhnutne najlepším meradlom“ pre nezaujatosť, a ktorá podobne vysvetlila, že zodpovednosť by mala zostať na ľuďoch.
Žiaľ, Workday teraz čelí súdnemu sporu uprostred obvinení, že AI, ktorú firma používa na preverovanie uchádzačov o prácu, diskriminovala starších kandidátov – tvrdenie, ktoré Workday, samozrejme, spochybňuje. Ale s takýmto poškvrneným informačným fondom sa dá diskriminácii v AI vôbec vyhnúť?
„Úprimne neviem, pretože si nemyslím, že napravíme skutočnosť, že budeme musieť poskytovať dáta. Nemyslím si, že napravíme internet,“ priznáva Wilsonová.
„Takže ak je vaším zdrojom pravdy internet, v určitom bode to nikdy nenapravíme. Nikdy to nenapravíme, pretože naši protivníci pumpujú to miesto plné zlých vecí. Takže to nikdy nenapravíme.“
„Nemôžete to riadiť, čo znamená, že pravdepodobne nemôžete riadiť, kedy dostávate halucinácie. Pravdepodobne sa na to budete musieť pozrieť a povedať si, to sa nezdá, poďme si to preveriť a náhodne kontrolovať veci.“
Riešenie teda? Kontrolovať, prekontrolovať a opäť skontrolovať. Predpokladá sa, že toto vyvinie úplne nový priemysel pre moderátorov zaujatosti AI, dúfajme, že dosť veľký na to, aby nahradil znižovanie počtu pracovných miest na základnej úrovni, ktorým v súčasnosti trpí trh práce, poháňané AI.
Vzhľadom na súčasnú politickú klímu tu existuje nepríjemná otázka „slona v miestnosti“, ktorá znie: Existuje skutočne chuť napraviť zaujatosť?
Administratíva prezidenta Trumpa zrušila politiky DEI (Diversity, Equity, and Inclusion – Rozmanitosť, rovnosť a začlenenie) a hoci mnohé technologické spoločnosti pôsobia globálne, množstvo z nich vedú zo Spojených štátov.
„Stalo sa to globálnym, pretože Microsoft je globálny, AWS je globálny, Accenture je globálny, [mohli by ste] vymenovať všetky tieto spoločnosti, ktoré buď stiahli DEI, alebo ju úplne zlikvidovali,“ zdôrazňuje.
Pýtam sa, určite firmy, ktoré pôsobia v krajinách so zákonmi o inkluzívnosti a antidiskriminácii, stále dodržiavajú pravidlá?
„Áno, pravidlá neporušujú,“ hovorí Wilsonová, „neporušujú zákony, ale už nemajú tím ľudí, ktorých prácou je výlučne zabezpečovať, aby poskytovali spravodlivosť. Takže stále nemôžu povedať: ‘Nemôžete mať prácu, pretože ste žena, nemôžete mať prácu, pretože ste černoch’ – dodržiavajú pravidlá, ale už nevychádzajú, aby nastavili hranicu spravodlivosti na začiatku.“
To naznačuje, že nemusí existovať veľa snahy o nápravu nerovností v procese prijímania zamestnancov a že nerovnosti môžu byť naďalej zosilňované modelmi AI, pokiaľ sa v technologickom svete a mimo neho neurobia rozsiahle zmeny.
Záverečná rada Wilsonovej pre podniky je, aby ste boli účelní pri nasadzovaní AI a vždy si boli vedomí ľudského dopadu, ktorý môže mať váš model v rámci vašej spoločnosti a ďalej.
„Zamyslite sa nad tým, čo používate,“ hovorí. „Buďte naozaj, naozaj jasní v tom, čo sa snažíte vyriešiť, pretože to nevyrieši všetko a v skutočnosti ľudia majú stále veľmi dobré miesto.“
„Ak tá vec, ktorú sa snažíte zlepšiť, ovplyvňuje rozhodnutie o osobe, vykonajte kontrolu riadenia a uistite sa, že rada, ktorá to riadi, zahŕňa ľudí, ktorých jedinou funkciou je pozerať sa na to z hľadiska ľudskej spravodlivosti.“
