Príbeh o AGI: Od horúčky po pragmatizmus
Kedysi dávno, presnejšie skôr v tomto roku, Silicon Valley nedokázalo prestať rozprávať o AGI, teda o umelej všeobecnej inteligencii. Generálny riaditeľ OpenAI, Sam Altman, v januári napísal, že sú si istí, že vedia, ako AGI vybudovať. To bolo po tom, čo koncom roka 2024 v podcaste Y Combinator povedal, že AGI by mohlo byť dosiahnuté v roku 2025, a v roku 2024 tweetoval, že OpenAI dosiahlo AGI interne. OpenAI bola taká očarená AGI, že šéfka predaja označila svoj tím za „AGI sherpov“ a bývalý hlavný vedec Ilya Sutskever viedol kolegov výskumníkov v táborových spevoch „Cíťte AGI!“
Partner a hlavný finančný podporovateľ OpenAI, Microsoft, vydal v roku 2024 článok, v ktorom tvrdil, že model GPT-4 od OpenAI vykazuje „iskry AGI“. Medzitým Elon Musk založil v marci 2023 xAI s poslaním vybudovať AGI, čo je vývoj, o ktorom povedal, že by sa mohol uskutočniť už v rokoch 2025 alebo 2026. Demis Hassabis zo spoločnosti Google DeepMind povedal reportérom, že svet je „na pokraji“ AGI. Generálny riaditeľ spoločnosti Meta, Mark Zuckerberg, povedal, že jeho spoločnosť sa zaviazala „budovať plnú všeobecnú inteligenciu“ na napájanie novej generácie svojich produktov a služieb. Dario Amodei, spoluzakladateľ a generálny riaditeľ spoločnosti Anthropic, hoci povedal, že nemá rád termín AGI, uviedol, že „výkonná AI“ by mohla prísť do roku 2027 a uviesť do chodu nový vek zdravia a hojnosti – ak nás nakoniec nezabije. Eric Schmidt, bývalý generálny riaditeľ spoločnosti Google, ktorý sa stal prominentným technologickým investorom, povedal v apríli, že AGI budeme mať „do troch až piatich rokov“.
Teraz horúčka AGI opadá – v niečom, čo sa rovná rozsiahlemu posunu nálady smerom k pragmatizmu na rozdiel od naháňania utopických vízií. Napríklad Altman na vystúpení na CNBC toto leto označil AGI za „nie veľmi užitočný termín“. V New York Times Schmidt – áno, ten istý chlapík, ktorý v apríli hovoril o AGI – vyzval Silicon Valley, aby sa prestalo upínať na nadľudskú AI, a varoval, že táto obsesia odvádza pozornosť od budovania užitočnej technológie. Andrew Ng, priekopník AI, a David Sacks, americký cár AI, označili AGI za „prehypovanú“.
AGI: Nedefinovaná a prehypovaná
Čo sa stalo? Najprv trochu pozadia. Všetci sa zhodujú, že AGI znamená „artificial general intelligence“ (umelá všeobecná inteligencia). A to je v podstate všetko, na čom sa všetci zhodujú. Ľudia definujú tento termín jemne, ale dôležito, rôznymi spôsobmi. Medzi prvými, ktorí tento termín použili, bol fyzik Mark Avrum Gubrud, ktorý v roku 1997 v výskumnom článku napísal, že „pod pokročilou umelou všeobecnou inteligenciou rozumiem AI systémy, ktoré konkurujú alebo prevyšujú ľudský mozog v zložitosti a rýchlosti, ktoré sú schopné získavať, manipulovať a uvažovať so všeobecnými znalosťami a ktoré sú použiteľné v podstate v akejkoľvek fáze priemyselných alebo vojenských operácií, kde by inak bola potrebná ľudská inteligencia.“
Tento termín neskôr prevzali a spopularizovali výskumník AI Shane Legg, ktorý neskôr spoluzaložil Google DeepMind s Hassabisom, a ďalší informatici Ben Goertzel a Peter Voss na začiatku roku 2000. AGI definovali podľa Vossa ako AI systém, ktorý by sa mohol naučiť „spoľahlivo vykonávať akúkoľvek kognitívnu úlohu, ktorú dokáže kompetentný človek.“ Táto definícia mala nejaké problémy – napríklad, kto rozhoduje o tom, kto sa kvalifikuje ako kompetentný človek? A odvtedy ďalší výskumníci AI vyvinuli rôzne definície, ktoré vidia AGI ako AI, ktorá je rovnako schopná ako ktorýkoľvek ľudský expert vo všetkých úlohách, na rozdiel od iba „kompetentnej“ osoby. OpenAI bola založená koncom roka 2015 s výslovným poslaním vyvinúť AGI „pre prospech všetkých“ a pridala svoj vlastný zvrat do debaty o definícii AGI. Charta spoločnosti hovorí, že AGI je autonómny systém, ktorý môže „prekonávať ľudí vo väčšine ekonomicky hodnotnej práce.“
Ale nech je AGI čímkoľvek, zdá sa, že v dnešnej dobe je dôležité o tom nehovoriť. A dôvod má čo do činenia s rastúcimi obavami, že pokrok vo vývoji AI nemusí uháňať dopredu tak rýchlo, ako priemyselní zasvätenci propagovali len pred niekoľkými mesiacmi – a rastúcimi náznakmi, že všetky tie reči o AGI podnecujú nafúknuté očakávania, ktoré samotná technológia nedokáže naplniť.
Zdá sa, že jedným z najväčších faktorov náhleho pádu AGI z milosti bol roll-out modelu GPT-5 od OpenAI začiatkom augusta. Len niečo vyše dvoch rokov po tvrdení spoločnosti Microsoft, že GPT-4 preukázal „iskry“ AGI, nový model dopadol s úderom: prírastkové vylepšenia zabalené v rutinnej architektúre, nie prelom, ktorý mnohí očakávali. Goertzel, ktorý pomohol vytvoriť frázu AGI, pripomenul verejnosti, že hoci je GPT-5 pôsobivý, zostáva nikde v blízkosti skutočnej AGI – chýba mu skutočné porozumenie, nepretržité učenie alebo zakorenená skúsenosť.
Altmanov ústup od jazyka AGI je obzvlášť zarážajúci vzhľadom na jeho predchádzajúcu pozíciu. OpenAI bola postavená na hype AGI: AGI je v zakladateľskej misii spoločnosti, pomohla získať miliardy v kapitáli a je základom partnerstva so spoločnosťou Microsoft. Klauzula v ich dohode dokonca uvádza, že ak nezisková rada OpenAI vyhlási, že dosiahla AGI, prístup spoločnosti Microsoft k budúcej technológii by bol obmedzený. Spoločnosť Microsoft – po investovaní viac ako 13 miliárd dolárov – údajne tlačí na odstránenie tejto klauzuly a dokonca zvažovala, že od dohody odstúpi. Wired tiež informoval o internej debate OpenAI o tom, či publikovanie článku o meraní pokroku AI by mohlo skomplikovať schopnosť spoločnosti vyhlásiť, že dosiahla AGI.
„Veľmi zdravý“ posun nálady
Ale či už si pozorovatelia myslia, že posun nálady je marketingový ťah alebo trhová reakcia, mnohí, najmä na firemnej strane, hovoria, že je to dobré. Shay Boloor, hlavný trhový stratég spoločnosti Futurum Equities, označil tento krok za „veľmi zdravý“ a poznamenal, že trhy odmeňujú vykonávanie, nie vágne príbehy o „jedného dňa superinteligencii“.
Iní zdôrazňujú, že skutočný posun je preč od monolitickej fantasy AGI smerom k doménovo špecifickým „superinteligenciam“. Daniel Saks, generálny riaditeľ spoločnosti Landbase zaoberajúcej sa agentnou AI, tvrdil, že „hype cyklus okolo AGI vždy spočíval na myšlienke jednej centralizovanej AI, ktorá sa stane vševidiacou,“ ale povedal, že to nie je to, čo vidí, že sa deje. „Budúcnosť spočíva v decentralizovaných, doménovo špecifických modeloch, ktoré dosahujú nadľudský výkon v konkrétnych oblastiach,“ povedal.
Christopher Symons, hlavný vedec AI v digitálnej zdravotnej platforme Lirio, povedal, že termín AGI nikdy nebol užitočný: Tí, ktorí propagujú AGI, vysvetlil, „odvádzajú zdroje od konkrétnejších aplikácií, kde môžu pokroky AI najbezprostrednejšie prospieť spoločnosti.“
Napriek tomu ústup od rétoriky AGI neznamená, že misia – alebo fráza – zmizla. Vedúci pracovníci spoločností Anthropic a DeepMind sa naďalej nazývajú „AGI-pilled“, čo je trochu interný slang. Aj táto fráza je však sporná; pre niektorých sa vzťahuje na presvedčenie, že AGI je bezprostredná, zatiaľ čo iní hovoria, že je to jednoducho presvedčenie, že modely AI sa budú naďalej zlepšovať. Niet však pochýb o tom, že je tu viac poistenia a zľahčovania ako zdvojnásobovania.
Niektorí stále upozorňujú na naliehavé riziká
A pre niektorých je práve toto poistenie to, čo robí riziká naliehavejšími. Bývalý výskumník OpenAI, Steven Adler, povedal: „Nemali by sme stratiť zo zreteľa, že niektoré spoločnosti zaoberajúce sa AI sa výslovne zameriavajú na budovanie systémov inteligentnejších ako ktorýkoľvek človek. AI tam ešte nie je, ale nech to nazývate akokoľvek, je to nebezpečné a vyžaduje si to skutočnú vážnosť.“
Iní obviňujú lídrov AI zo zmeny ich tónu o AGI, aby zakalili vody v snahe vyhnúť sa regulácii. Max Tegmark, prezident Future of Life Institute, hovorí, že Altmanovo označenie AGI za „nie užitočný termín“ nie je vedecká pokora, ale spôsob, ako sa spoločnosť vyhne regulácii a zároveň pokračuje v budovaní silnejších a silnejších modelov.
„Je pre nich inteligentnejšie hovoriť o AGI súkromne so svojimi investormi,“ povedal a dodal, že „je to ako keď predajca kokaínu hovorí, že nie je jasné, či je kokaín naozaj droga,“ pretože je to také komplexné a ťažké rozlúštiť.
Nazvite to AGI alebo to nazvite inak – hype môže vyblednúť a nálada sa môže zmeniť, ale keďže je v stávke toľko, od peňazí a pracovných miest až po bezpečnosť a istotu, skutočné otázky o tom, kam táto rasa vedie, sa len začínajú.
Sharon Goldman
