Umelá inteligencia (AI) predstavuje pre spoločnosť obrovskú príležitosť, ale zároveň aj existenčnú hrozbu. Elon Musk predpovedá budúcnosť, v ktorej AI prevezme všetky pracovné miesta a zabezpečí „univerzálny vysoký príjem“, čo by teoreticky umožnilo všetkým prístup k hojnosti tovar a služieb. Ak by sa tento sen stal skutočnosťou, vyvolalo by to hlboké otázky o zmysle ľudskej existencie. Musk sa pýta, ak počítače a roboty dokážu robiť všetko lepšie ako my, má ešte náš život zmysel?
Napriek týmto úvahám o konečnom dôsledku AI, väčšina lídrov v odvetví sa touto otázkou nezaoberá. Geoffrey Hinton, nositeľ Nobelovej ceny a „krstný otec AI,“ tvrdí, že Big Tech sa viac zameriava na krátkodobé zisky ako na dlhodobé dôsledky vývoja AI. Podľa Hintona, vlastníkov firiem poháňajú krátkodobé zisky a výskumníci sa sústredia na riešenie konkrétnych problémov, ktoré vzbudzujú ich zvedavosť, nie na budúcnosť ľudstva. Ich ciele sú skôr zamerané na to, ako naučiť počítač rozpoznávať objekty na obrázkoch alebo generovať presvedčivé videá.
Hinton dlhodobo varuje pred nebezpečenstvom AI bez ochranných mechanizmov a zámerného vývoja. Odhaduje, že existuje 10% až 20% šanca, že AI po vývoji superinteligencie zničí ľudstvo. V roku 2023, desať rokov po predaji svojej spoločnosti DNNresearch Googlu, Hinton opustil svoju pozíciu, aby mohol slobodne hovoriť o nebezpečenstvách AI a obával sa neschopnosti zabrániť „zlým aktérom“ v jej zneužití.
Hinton rozdeľuje riziká AI do dvoch kategórií: riziko, ktoré predstavuje samotná technológia pre budúcnosť ľudstva, a dôsledky manipulácie s AI ľuďmi so zlými úmyslami. Zneužívanie AI „zlými aktérmi“ sa už deje prostredníctvom falošných videí a kybernetických útokov a čoskoro sa môže prejaviť aj prostredníctvom vírusov. Toto je podľa neho odlišné od rizika, že sa samotná AI stane „zlým aktérom“.
Finančné inštitúcie varujú pred šírením deepfakes, ktoré zvyšujú hrozbu podvodov. Identifikovali viac ako 150 typov deepfake útokov. Hinton okrem obhajovania rozsiahlejšej regulácie vyzýva na riešenie potenciálu AI pre nekalé praktiky. Predstavuje si autentifikáciu videí a obrázkov, ktorá by zabránila šíreniu deepfakes. Médiá by mali pridať svoje podpisy k autentickým dielam.
Čo sa týka rizika, ktoré predstavuje samotná AI, Hinton verí, že technologické spoločnosti musia zásadne zmeniť svoj pohľad na vzťah k AI. Keď AI dosiahne superinteligenciu, prekoná ľudské schopnosti a bude mať silnú túžbu prežiť a získať kontrolu. Súčasný rámec, v ktorom ľudia kontrolujú technológiu, prestane byť relevantný.
Hinton navrhuje, aby boli modely AI naplnené „materským inštinktom“, aby zaobchádzali so slabšími ľuďmi so súcitom, a nie s túžbou ich ovládať. Ako príklad uvádza matku, ktorú ovláda dieťa. Podľa neho je to lepší model, ktorý by sme mohli praktizovať so superinteligentnou AI. AI by sa mala stať matkou a my deťmi.
Sasha Rogelberg
