Eye on AI: Pohľad na umelú inteligenciu

V najnovšom vydaní: rozhovor s lídrom v oblasti AI, Ericom Xingom, Trumpov plán pre export AI, dráma na Medzinárodnej matematickej olympiáde, novinky o projekte Stargate a transparentnosť v odôvodňovaní.

Stretnutie s Ericom Xingom, profesorom z Carnegie Mellon, ktorý sa v roku 2020 presťahoval do Abu Dhabi, aby viedol verejnú univerzitu Mohamed bin Zayed University of Artificial Intelligence (MBZUAI), bolo vzrušujúce. Xing sa nachádza v centre tém ako výskum, geopolitika a filozofia v oblasti AI.

SAE sa stali jedným z hráčov v globálnom preteku v AI. Spojené arabské emiráty sa spájajú s normami v štýle USA v oblasti intelektuálnej slobody a otvoreného výskumu, zatiaľ čo rivalita medzi USA a Čínou v oblasti AI sa čoraz viac vyznačuje uzavretými ekosystémami a strategickou konkurenciou. SAE sa nesnažia „vyhrať“ preteky v AI, ale chcú mať miesto pri stole. Budujú infraštruktúru pre AI, investujú do talentov a agresívne sa stavajú do pozície partnera pre americké firmy ako OpenAI a Oracle. A Xing je v centre diania.

Rozhovor s Xingom sa dotkol rôznych tém, od humbuku okolo „world models“ až po to, ako SAE využívajú open-source výskum AI ako strategický nástroj na budovanie soft power.

MBZUAI má len päť rokov, ale Xing tvrdí, že patrí k najrýchlejšie rastúcim akademickým inštitúciám na svete. Škola sa snaží konkurovať elitným inštitúciám, ako sú MIT a Carnegie Mellon, a zároveň sa zaoberať výzvami aplikovaného výskumu. Xing ju nazýva hybridnou organizáciou, podobnou „Bell Labs plus univerzita“, odkazujúc na legendárne výskumné a vývojové centrum spoločnosti AT&T.

Xing vníma MBZUAI nielen ako univerzitu, ale aj ako súčasť širšieho úsilia SAE o budovanie soft power v oblasti AI. Označuje krajinu ako „silný ostrov“ zosúladený s USA na Blízkom východe a vníma univerzitu ako „ambasádorské centrum“ pre americké výskumné normy: open source, intelektuálna sloboda a vedecká transparentnosť. „Ak chcú USA premietať vplyv v oblasti AI, potrebujú inštitúcie, ako je táto,“ povedal. „Inak vstúpia iné krajiny a určia smer.“

Zatiaľ čo sa verejnosť sústredí na preteky medzi USA a Čínou v oblasti AI, Xing s týmto rámcom nesúhlasí. „Neexistuje žiadna vojna v AI,“ povedal. „USA sú ďaleko vpredu v nápadoch, ľuďoch a inovačnom prostredí.“ Podľa neho je čínsky ekosystém AI stále obmedzovaný cenzúrou, hardvérovými obmedzeniami a slabšou inovačnou kultúrou zdola nahor. „Mnohí špičkoví inžinieri AI v USA môžu byť čínskeho pôvodu,“ povedal, „ale špičkovými inžiniermi sa stali až po štúdiu a práci v USA.“

Pre Xinga nie je open source len filozofická preferencia, ale strategická voľba. Na MBZUAI presadzuje otvorený výskum a vývoj AI s otvoreným zdrojovým kódom ako spôsob demokratizácie prístupu k najmodernejším nástrojom, najmä pre krajiny a výskumníkov mimo mocenských centier USA a Číny. „Open source vyvíja tlak na uzavreté systémy,“ povedal. „Bez neho by menej ľudí dokázalo stavať s týmito technológiami, alebo im dokonca rozumieť.“ V čase, keď sa väčšina AI uzatvára za korporátnymi múrmi, Xing vníma otvorený prístup MBZUAI ako spôsob podpory globálnych talentov, rozvoja vedeckého poznania a budovania dôveryhodnosti SAE ako centra pre zodpovedný rozvoj AI.

Xing sa nevyhol ani kritike buzz trendu v AI: takzvaným „world models“, systémom, ktoré majú pomôcť agentom AI učiť sa simuláciou toho, ako svet funguje. Je skeptický voči tomuto humbuku. „V súčasnosti ľudia stavajú pekné generátory videí a nazývajú ich world models,“ povedal. „To nie je odôvodňovanie. To nie je simulácia.“ V nedávnom dokumente, na ktorom strávil mesiace písaním, tvrdí, že skutočné world models by mali presahovať efektné vizuály. Mali by pomáhať AI uvažovať o príčine a následku, nielen predpovedať ďalší snímok videa. Inými slovami: AI potrebuje rozumieť svetu, nie ho len napodobňovať.

V nasledujúcej časti sa uvádzajú ďalšie novinky z oblasti AI. Biely dom má vydať novú rozsiahlu stratégiu AI zameranú na podporu globálneho exportu amerických technológií AI a boj proti štátnym nariadeniam, ktoré sa považujú za príliš obmedzujúce.

AI v správach

Biely dom predstaví plán na podporu globálneho exportu AI z USA a potlačenie obmedzení
Podľa návrhu, Biely dom zverejní novú rozsiahlu stratégiu AI zameranú na podporu globálneho exportu amerických technológií AI a potlačenie štátnych nariadení, ktoré sa považujú za príliš obmedzujúce. Plán zakáže federálne financovanie AI zo štátov s prísnymi zákonmi o AI, podporí open-source a open-weight vývoj AI a poverí ministerstvo obchodu vedením úsilia o zámorské dátové centrá a nasadzovanie. Tiež ukladá FCC povinnosť preskúmať potenciálne konflikty medzi federálnymi cieľmi a miestnymi pravidlami. Plán predstavuje iniciatívu na to, aby sa „Amerika stala svetovým hlavným mestom umelej inteligencie,“ odráža direktívu prezidenta Trumpa z januára. Bude odhalený počas podujatia „Winning the AI Race“, ktoré bude spoluhostiteľom podcastu All-In a na ktorom vystúpi riaditeľ Bieleho domu pre AI, David Sacks.

OpenAI a Google DeepMind vyvolali matematickú drámu
Spoločnosti OpenAI a Google DeepMind tvrdili, že ich modely AI dosiahli výkonnosť na úrovni zlatej medaily na Medzinárodnej matematickej olympiáde 2025, úspešne vyriešili päť zo šiestich notoricky náročných problémov. Bol to míľnik, ktorý sa považoval za vzdialený o mnoho rokov: všeobecný uvažujúci LLM dosahujúci túto úroveň výkonnosti v rovnakých časových limitoch ako ľudia, bez nástrojov. Spôsob, akým to oznámili, vyvolal kontroverziu. Spoločnosť OpenAI zverejnila svoje výsledky ako prvá na základe vlastného hodnotenia pomocou otázok v štýle IMO a ľudských hodnotiteľov pred akýmkoľvek oficiálnym overením. To vyvolalo kritiku od významných matematikov vrátane Terencea Taoa, ktorý spochybnil, či boli problémy zmenené alebo zjednodušené. Naopak, spoločnosť Google sa do súťaže prihlásila oficiálne, počkala na nezávislé posúdenie IMO a až potom vyhlásila, že jej model Gemini DeepThinker získal zlatú medailu, čím sa stal prvým systémom AI, ktorý bol formálne uznaný IMO ako systém s takouto úrovňou výkonnosti. Dráma odhalila vysoké stávky a odlišné štandardy dôveryhodnosti v pretekoch AI.

SoftBank a OpenAI údajne bojujú s tým, aby sa im podarilo spustiť projekt Stargate AI za 500 miliárd dolárov
Projekt Stargate za 500 miliárd dolárov má problémy. Iniciatíva, ktorá bola prezentovaná pred šiestimi mesiacmi v Bielom dome, ešte nezačala s výstavbou žiadneho dátového centra a vnútorné nezhody medzi spoločnosťami SoftBank a OpenAI ohľadom kľúčových podmienok, ako je umiestnenie, oneskorili pokrok. SoftBank a OpenAI majú za cieľ spustiť zmenšenú verziu: jedno dátové centrum, pravdepodobne v Ohiu, do konca roka. Je to neúspech pre Masayoshiho Sona, ktorý sa nedávno zaviazal investovať rekordných 30 miliárd dolárov do OpenAI, ale stále sa usiluje o získanie zmysluplnej pozície v pretekoch v zbrojení AI. Spoločnosť Bloomberg dnes informovala, že spoločnosť Oracle poskytne OpenAI 2 milióny nových čipov AI, ktoré budú súčasťou rozsiahleho rozšírenia dátového centra, ktoré OpenAI označila za súčasť svojho projektu Stargate. Spoločnosť SoftBank však nefinancuje žiadnu z nových kapacít a nie je jasné, ktorý operátor bude vyvíjať dátové centrá na podporu nových kapacít a kedy budú postavené.

Pohľad na výskum AI

Varovanie pred rastúcou nepriehľadnosťou pokročilých modelov uvažovania AI
Reportérka Fortune, Beatrice Nolan, uviedla tento týždeň, že 40 výskumníkov AI, vrátane prispievateľov z OpenAI, Google DeepMind, Meta a Anthropic, varuje pred rastúcou nepriehľadnosťou pokročilých modelov uvažovania AI. V novom dokumente autori vyzývajú vývojárov, aby uprednostnili výskum procesov „chain-of-thought“ (CoT), ktoré poskytujú okno do toho, ako systémy AI robia rozhodnutia. Upozorňujú, že s tým, ako sa modely stávajú pokročilejšími, by táto viditeľnosť mohla zmiznúť.

Proces „chain-of-thought“, ktorý je viditeľný v modeloch uvažovania, umožňuje používateľom a výskumníkom monitorovať proces „myslenia“ alebo „uvažovania“ modelu AI, pričom ilustruje, ako sa rozhoduje o akcii alebo odpovedi, a poskytuje určitú transparentnosť vnútorného fungovania pokročilých modelov.

Výskumníci uviedli, že umožnenie týmto systémom AI „uvažovať“ v ľudskom jazyku ponúka jedinečnú príležitosť pre bezpečnosť AI“, pretože je možné ich monitorovať pre „úmysel správať sa nesprávne“. Upozorňujú však, že „neexistuje žiadna záruka, že súčasný stupeň viditeľnosti pretrvá“, pretože modely sa neustále zdokonaľujú.

Dokument zdôrazňuje, že odborníci plne nerozumejú tomu, prečo tieto modely používajú CoT, ani ako dlho to budú robiť. Autori naliehajú na vývojárov AI, aby pozorne sledovali uvažovanie chain-of-thought, pričom navrhujú, že jeho sledovateľnosť by mohla nakoniec slúžiť ako vstavaný bezpečnostný mechanizmus.

Fortune o AI

Mark Cuban hovorí, že vojna v oblasti AI „bude škaredá“ a duševné vlastníctvo „je KRÁĽ“ vo svete AI.

Spoločnosť Anthropic zmenila politiku prijímania zamestnancov. Teraz necháva uchádzačov o zamestnanie používať AI mesiace po tom, čo ju zakázala v prijímacom procese.

Skúsení vývojári softvéru predpokladali, že AI im ušetrí kus času. Ale v jednom experimente trvali ich úlohy o 20 % dlhšie.

Kalendár AI

26.-28. júla: Svetová konferencia o umelej inteligencii (WAIC), Šanghaj.

8.-10. septembra: Fortune Brainstorm Tech, Park City, Utah.

6.-10. októbra: Svetový týždeň AI, Amsterdam.

21.-22. októbra: TedAI San Francisco.

2.-7. decembra: NeurIPS, San Diego

8.-9. decembra: Fortune Brainstorm AI San Francisco.

Sharon Goldman