Umelá inteligencia (AI) má potenciál mať ešte väčší dopad ako priemyselná revolúcia. Súkromný sektor už investoval obrovské sumy do vývoja a nasadzovania AI.
AI sa už využíva v boji proti chorobám, na zložité matematické výpočty, v doprave ľudí a produktov, pri dodržiavaní predpisov a pri navrhovaní fyzických štruktúr. V minulom roku boli dve Nobelove ceny spojené s AI – Nobelova cena za fyziku za „základné objavy a vynálezy, ktoré umožňujú strojové učenie s umelými neurónovými sieťami“ a Nobelova cena za chémiu za „výpočtový dizajn proteínov“ a „predikciu štruktúry proteínov“. Pri vyhlásení ceny za chémiu v roku 2024 Nobelov výbor vyhlásil: „Život by nemohol existovať bez proteínov. To, že teraz môžeme predpovedať štruktúry proteínov a navrhovať vlastné proteíny, prináša ľudstvu najväčší úžitok.“
Budúcnosť s podporou AI je inšpirujúca. Značná schopnosť AI zlepšiť každodenný život človeka zahŕňa rozšírenie ľudských zručností, zvýšenie produktivity a vykonávanie úloh, čím sa vytvárajú príležitosti pre ľudí, aby trávili čas dôležitejšími prioritami. Na makroúrovni by AI mala podnietiť hospodársky rast, rovnako ako iné technologické prelomové objavy po stáročia. Predstavte si, že spolupráca medzi AI a ľuďmi objaví liek na rakovinu, povedie k novým zdrojom potravy, ktoré vyriešia hlad, a umožní budovať budovy, ktoré lepšie odolávajú zemetraseniam, tornádam, hurikánom a požiarom – nič z toho nie je prehnané vzhľadom na tempo výskumu AI a rozširujúcu sa hranicu AI.
Hoci sú výhody AI pozoruhodné, vyvoláva obavy, ak nie strach. Pokročilé systémy AI sa rýchlo zlepšujú v tom, čo robia. To je základná obava niektorých jedincov, že ľudia nebudú schopní držať krok s AI a že AI nakoniec prevezme kontrolu. Pozornosť sa tiež sústredila, okrem iného, na zneužívanie AI, deepfakes, halucinácie, vplyv AI na pracovné miesta a ochranu hodnôt, ktoré by niektoré aplikácie AI mohli urážať.
Dôvera je prvoradá.
Ako dosiahneme obrovské výhody a príležitosti, ktoré AI ponúka, a zároveň zmiernime a riadime s tým spojené riziká, zostane stredobodom pozornosti, ako z hľadiska politiky, tak aj z hľadiska praxe. Dôvera v AI je potrebná na to, aby sa AI časom rozvíjala a prinášala výhody pre ľudstvo. Ak budú ochranné opatrenia a dohľad príliš benevolentné, riziká sa môžu zmeniť na skutočné škody, ktoré nie sme ako spoločnosť ochotní akceptovať. Na druhej strane, ochranné opatrenia a dohľad nad AI, ktoré sú príliš ťažkopádne a reštriktívne, môžu byť na úkor prelomových objavov v AI, ktoré podnecujú riešenia zložitých problémov, vedú k ohromujúcim objavom a zvyšujú životnú úroveň.
S inováciami a zavádzaním AI, ktoré prudko napredujú, je hodnota AI v reálnom svete jasná. Kľúčom k realizácii plného prísľubu AI bude využiť samotnú AI na pomoc pri zmierňovaní a zvládaní obáv s AI – niečo, čo môže súkromný sektor presadzovať.
Ľudia modulujú svoje správanie pre rôzne situácie, samokorigujú sa, keď sú braní na zodpovednosť, a internalizujú cnosti, ktoré ovplyvňujú ich rozhodnutia. Pokročilá AI to môže byť schopná robiť tiež, pričom zostane v definovaných parametroch a obmedzeniach, aby splnila očakávania spoločnosti. S napredovaním AI môže byť možné navrhnúť a trénovať systémy AI nielen tak, aby samy identifikovali, či sa systém odchyľuje od akceptovaného výkonu, ale aj aby sa zdokonaľovali, aby zodpovedali cieľom a hodnotám spoločnosti. Technologické úsilie na dosiahnutie tohto cieľa prebieha.
Aj keby sa to realizovalo, tento typ zosúladenia AI by úplne nevyriešil hlavné obavy.
AI, ktorá dohliada na AI.
Musí sa objaviť ďalšia vrstva: AI, ktorá dohliada na AI. Ľudia budú musieť spolupracovať s agentmi AI, aby monitorovali, či iné systémy AI robia to, čo majú robiť. Pokročilí agenti AI môžu byť vyvinutí a nasadení na identifikáciu, či iní agenti AI alebo nasadenia AI konajú aberantne alebo nekalými spôsobmi, nesprávajú sa v súlade s výkonnostnými ukazovateľmi, maria ciele, ktoré mali podporovať, alebo predstavujú iné škody. Napríklad, s ľudským dohľadom môžu agenti AI pre dodržiavanie predpisov spoločnosti pomôcť zabezpečiť, aby systémy AI, ktoré spoločnosť používa v svojej činnosti, dodržiavali právne a regulačné požiadavky – to je pre ľudí nemožné len kvôli rýchlosti a rozsahu, v akom môžu fungovať pokročilé systémy AI spoločnosti.
Objem a rozsah používania AI je obrovský a neustále sa rozširuje. To predstavuje ťažkosť. Napríklad, pri používaní AI na marketing produktov, poskytovanie interaktívnej zákazníckej podpory, navrhovanie zmlúv alebo vytváranie iného obsahu, podniky potrebujú potvrdiť, že to, čo generujú ich systémy AI, je v súlade s predpismi. Ľudská kapacita sama o sebe však nestačí na preskúmanie a posúdenie všetkých použití z hľadiska dodržiavania predpisov. Tento rozdiel v kapacite sa bude prehlbovať s tým, ako bude AI napredovať a bude sa viac zavádzať a bude konať autonómnejšie. Spoločnosti nemôžu zaostávať za svojimi povinnosťami v oblasti dodržiavania predpisov; ani nesmú zbytočne váhať, nieto ešte odmietnuť, používať agentov AI na trhu, keď to ich konkurenti aktívne robia, aby získali strategickú a prevádzkovú výhodu. Riešením je, aby spoločnosti nasadili agentov AI na posilnenie dodržiavania predpisov, čím sa rozšíri ľudské úsilie a úsudok. Bezprecedentná schopnosť agentov AI hodnotiť v priebehu sekúnd alebo minút, či výstupy a správanie AI sú v súlade s rozsiahlymi právnymi a regulačnými požiadavkami, umožňuje zavádzanie a implementáciu AI v súlade s predpismi vo veľkom meradle.
AI by sa mala prijať, aj keď sa pripravujeme na zmenu, ktorú prináša. Riziká sa musia zohľadniť. Nemali by však otupiť záväzok podporovať vývoj a zavádzanie AI. Tento záväzok zahŕňa investície do základného a aplikovaného výskumu AI. A zahŕňa primerané kalibrovanie riadenia rizík a správy, ktoré budujú dôveru bez toho, aby potláčali vynaliezavosť a inovácie.
Využívanie AI na pomoc pri zabezpečovaní toho, aby iné systémy AI fungovali výhodne a spoľahlivo – v súlade s ich zamýšľaným účelom – by prispelo k dlhodobému prísľubu AI.
John Nay, Troy A. Paredes
