Umelá inteligencia (AI) je dnes všade a s ňou aj riziká spojené s jej používaním. Podľa štúdie Conference Board sa vo formulároch 10-K až 72 % spoločností zahrnutých v indexe S&P 500 zmienilo o AI ako o významnom riziku. V minulom roku to bolo 58 % a v roku 2023 len 12 %. Tento nárast odráža, ako sa používanie AI vo firmách presunulo od experimentálneho po rozsiahle využívanie. Štúdia definuje AI široko, pričom zahŕňa nielen rozsiahle jazykové modely, ale aj robotiku, automatizáciu, strojové učenie a ďalšie typy AI.
Najčastejšie riziká spojené s AI uvádzali spoločnosti z odvetví, ktoré AI aktívne zavádzajú, ako sú financie, zdravotníctvo, priemysel, informačné technológie a sektor spotrebiteľského tovaru.
Spoločnosti zahrnuté v S&P 500 sa najviac obávali reputačných rizík spojených s AI. 38 % z nich uviedlo vo svojich formulároch 10-K potenciálne ohrozenie dobrého mena spoločnosti v dôsledku používania AI. 45 spoločností sa zmienilo o rizikách spojených s implementáciou a adaptáciou, ako sú prehnané očakávania od AI projektov alebo nesplnenie očakávaní. 42 spoločností uviedlo, že rizikom je AI zameraná na spotrebiteľov. Medzi ďalšie reputačné riziká, ktoré spoločnosti spomínali, patrili riziká týkajúce sa súkromia a dát, halucinácie, konkurenčné hrozby a problémy so zaujatosťou a spravodlivosťou.
Každá piata spoločnosť z indexu S&P sa v ročných správach zmienila o hrozbách pre kybernetickú bezpečnosť spojených s AI, ako o riziku. 40 spoločností uviedlo len to, že kybernetická bezpečnosť je všeobecne riziko, no 18 poukázalo na riziká spojené s tretími stranami alebo dodávateľmi a 17 uviedlo, že rizikom sú úniky dát.
Firmy tiež predvídali potenciálne riziká vyplývajúce z dodržiavania predpisov v súvislosti s AI. 41 spoločností uviedlo „vyvíjajúce sa regulácie a neistotu“ ako rizikovú oblasť a niektoré konkrétne poukázali na zákon EÚ o AI, ktorý stanovuje prísne sankcie za nedodržiavanie.
Courtney Vien, CFO Brew
