OpenAI CEO Sam Altman v nedávnom rozhovore povedal, že testovanie GPT-5 ho vystrašilo.
Prirovnal GPT-5 k projektu Manhattan.
Varoval, že rýchly pokrok v oblasti AI prebieha bez dostatočného dohľadu.
Šéf OpenAI Sam Altman vykreslil portrét GPT-5, ktorý znie skôr ako triler než predstavenie produktu. V nedávnej epizóde podcastu, opísal skúsenosť s testovaním modelu dychtivými tónmi, ktoré vyvolávajú skôr skepticizmus než akýkoľvek alarm, ktorý chcel, aby poslucháči počuli.
Altman povedal, že GPT-5 „pôsobí veľmi rýchlo“ a spomenul chvíle, keď sa cítil veľmi nervózne. Napriek tomu, že je hnacou silou vývoja GPT-5, Altman tvrdil, že počas niektorých sedení sa na GPT-5 pozrel a prirovnal ho k projektu Manhattan.
Altman tiež ostro kritizoval súčasné riadenie AI, pričom naznačil, že „v miestnosti nie sú žiadni dospelí“ a že štruktúry dohľadu zaostávajú za vývojom AI. Je to zvláštny spôsob, ako predávať produkt, ktorý sľubuje vážne skoky v oblasti všeobecnej umelej inteligencie. Poukazovanie na potenciálne riziká je jedna vec, ale správať sa tak, akoby nemal kontrolu nad tým, ako GPT-5 funguje, pôsobí trochu neúprimne.
seo-consulting.sk/“ title=“analýza“>analýza: Existenčné obavy z GPT-5
Čo Altmana vystrašilo, nie je úplne jasné. Altman sa nezaoberal technickými detailmi. Volanie na projekt Manhattan je ďalšia prehnaná analógia. Signalizovať nezvratnú a potenciálne katastrofálnu zmenu a globálne stávky sa zdá zvláštne ako porovnanie so sofistikovaným automatickým dopĺňaním. Hovorí sa, že postavili niečo, čomu úplne nerozumejú, vďaka čomu sa OpenAI zdá buď bezohľadná alebo neschopná.
GPT-5 má prísť čoskoro a existujú náznaky, že sa rozšíri ďaleko za schopnosti GPT-4. „Digitálna myseľ“ opísaná v Altmanových komentároch by skutočne mohla predstavovať zmenu v tom, ako ľudia, ktorí budujú AI, vnímajú svoju prácu, ale tento druh mesiášskej alebo apokalyptickej projekcie sa zdá byť hlúpy. Verejná diskusia o AI sa väčšinou pohybovala medzi dychtivým optimizmom a existenčnou hrôzou, ale niečo medzi tým sa zdá byť vhodnejšie.
Toto nie je prvýkrát, čo Altman verejne priznal svoje nepohodlie s pretekmi v zbrojení AI. Verejne povedal, že AI by sa mohla „veľmi pokaziť“ a že OpenAI musí konať zodpovedne a zároveň dodávať užitočné produkty. Ale zatiaľ čo GPT-5 takmer určite príde s lepšími nástrojmi, priateľskejšími rozhraniami a o niečo svižnejším logom, hlavná otázka, ktorú vyvoláva, je otázka moci.
Ďalšia generácia AI, ak bude rýchlejšia, inteligentnejšia a intuitívnejšia, dostane ešte väčšiu zodpovednosť. A to by bol zlý nápad na základe Altmanových komentárov. A aj keď preháňa, neviem, či je to ten typ spoločnosti, ktorá by mala rozhodovať o tom, ako sa táto moc nasadzuje.
Prihláste sa na odber najnovších správ, recenzií, názorov, najlepších technologických ponúk a ďalších.
erichs211@gmail.com (Eric Hal Schwartz)
