Nathan Calvin, 29-ročný generálny právnik malej neziskovej organizácie Encode, ktorá sa zaoberá problematikou umelej inteligencie a má len troch zamestnancov na plný úväzok, obvinil spoločnosť OpenAI z používania zastrašovacích praktík s cieľom oslabiť kalifornský zákon SB 53, nazvaný Kalifornský zákon o transparentnosti v oblasti rozsiahlej umelej inteligencie, ešte počas jeho prerokúvania. Tvrdí tiež, že OpenAI využila svoj prebiehajúci právny spor s Elonom Muskom ako zámienku na to, aby sa zamerala na kritikov, vrátane Encode, a zastrašovala ich naznačovaním, že sú tajne financovaní Muskom.
Calvinove obvinenia rýchlo upútali pozornosť, a to aj vnútri samotnej OpenAI. Justin Achaim, vedúci oddelenia zosúlaďovania poslania spoločnosti, sa k nim vyjadril s obavami o potenciálne riziko pre svoju kariéru. Bývalí zamestnanci OpenAI a významní výskumníci v oblasti bezpečnosti umelej inteligencie sa tiež zapojili do diskusie, pričom mnohí vyjadrili znepokojenie nad údajnými praktikami spoločnosti. Helen Toner, bývalá členka predstavenstva OpenAI, ktorá rezignovala po neúspešnom pokuse o odvolanie generálneho riaditeľa Sama Altmana v roku 2023, uviedla, že niektoré veci, ktoré spoločnosť robí, sú skvelé, ale „nečestnosť a zastrašovacie taktiky v ich politickej práci naozaj nie“.
Do diskusie sa zapojil aj Tyler Johnston, zakladateľ organizácie The Midas Project, ktorá dohliada na oblasť umelej inteligencie. Uviedol, že dostal predvolanie, v ktorom žiadali o všetky textové správy, e-maily a dokumenty, ktoré v „najširšom možnom zmysle“ súvisia s riadením a investormi OpenAI. Podobne ako Calvin, aj on dostal osobné predvolanie a bolo doručené aj organizácii The Midas Project.
Podľa jeho slov by jednoducho odpovedal na otázku, či je financovaný Muskom, ale namiesto toho žiadali zoznam každého novinára, kancelárie Kongresu, partnerskej organizácie, bývalého zamestnanca a člena verejnosti, s ktorými hovoril o reštrukturalizácii spoločnosti.
OpenAI na viaceré žiadosti o vyjadrenie nereagovala, ale v septembrovom článku v San Francisco Standard právnik OpenAI uviedol, že ich kroky mali objasniť, či niektoré z týchto organizácií tajne nefinancujú konkurenčné spoločnosti.
Calvin bol predvolaný spoločnosťou OpenAI v auguste, pričom predvolanie mu doručil zástupca šerifa počas večere s manželkou. Predvolanie dostala aj organizácia Encode, pre ktorú pracuje. OpenAI sa obávala, že niektorí z jej najhlasnejších kritikov sú financovaní Elonom Muskom a ďalšími miliardármi z konkurencie, a preto sa zamerala na tieto neziskové organizácie, hoci mala len málo dôkazov na podporu tohto tvrdenia.
Calvin uviedol, že Encode nie je financovaná Muskom a kritizovala reštrukturalizáciu OpenAI a pracovala na regulácii umelej inteligencie, vrátane zákona SB 53. V predvolaní OpenAI žiadala všetky Calvinove súkromné komunikácie týkajúce sa SB 53.
Podľa jeho názoru OpenAI využila právny spor s Elonom Muskom ako zámienku na zastrašovanie kritikov a naznačovanie, že za nimi všetkými stojí Musk. Encode podala písomné vyjadrenie na podporu niektorých Muskových argumentov v tomto prípade.
Calvin zdôraznil, že je dôležité poukázať na nevhodnosť krokov OpenAI v súvislosti so zákonom SB 53, ktorý podpísal guvernér Gavin Newsom koncom septembra. Tento zákon vyžaduje, aby niektorí vývojári rozsiahlych modelov umelej inteligencie zverejnili rámec pre rozsiahlu umelú inteligenciu a správu o transparentnosti pri nasadení alebo podstatnej úprave modelu, hlásili závažné bezpečnostné incidenty štátu a zdieľali hodnotenia katastrofických rizík pod dohľadom štátu.
Calvin tvrdí, že cieľom OpenAI bolo oslabiť tieto požiadavky. V liste adresovanom kancelárii guvernéra Newsoma spoločnosť vyzvala Kaliforniu, aby považovala spoločnosti za súladné s pravidlami štátu, ak už podpísali dohodu o bezpečnosti s federálnou agentúrou USA alebo sa pripojili k medzinárodným rámcom, ako je Kódex správania EÚ v oblasti umelej inteligencie. Calvin tvrdí, že takéto ustanovenie by mohlo výrazne zúžiť dosah zákona, potenciálne vyňať OpenAI a ďalších veľkých vývojárov umelej inteligencie z kľúčových požiadaviek na bezpečnosť a transparentnosť.
Dodáva, že ďalším dôvodom, prečo sa rozhodol prehovoriť, bol príspevok Chrisa Lehaneho, vedúceho globálnych záležitostí OpenAI, ktorý opísal spoločnosť ako subjekt, ktorý „pracoval na zlepšení“ SB 53, čo je charakteristika, ktorá je v rozpore s jeho skúsenosťami za posledných niekoľko mesiacov.
Encode založila Sneha Revanur v roku 2020, keď mala 15 rokov. Keďže stále študuje na vysokej škole, ešte nie je zamestnankyňou na plný úväzok. Podľa slov Sunny Gandhi, viceprezidentky Encode pre politické záležitosti, je desivé, keď sa vás snaží potrestať spoločnosť s pol biliónom dolárov.
Encode formálne odpovedala na predvolanie OpenAI a uviedla, že neposkytne žiadne dokumenty, pretože organizácia nie je financovaná Elonom Muskom. Odvtedy sa spoločnosť neozvala.
Achaim z OpenAI verejne vyzval svoju spoločnosť, aby konštruktívnejšie spolupracovala so svojimi kritikmi. Uviedol, že existuje mnoho verejných informácií, na základe ktorých sa s Muskom dá bojovať a že existuje mnoho spôsobov, ako sa produktívne zapojiť do záležitostí, ako je SB 53. Nemôžu robiť veci, ktoré z nich robia desivú moc namiesto cnostnej. Majú povinnosť voči celému ľudstvu, a preto je dôležité snažiť sa konať správne.
Calvin opísal túto epizódu ako „najstresujúcejšie obdobie svojho profesijného života“. Dodal, že používa produkty OpenAI a získava z nich hodnotu a že spoločnosť vykonáva a publikuje výskum o bezpečnosti umelej inteligencie, ktorý si zaslúži uznanie. Mnohým zamestnancom OpenAI záleží na tom, aby bola spoločnosť prospešná pre svet.
Chce vidieť túto stránku OpenAI, ale namiesto toho vidí, ako sa snažia zastrašiť kritikov, aby mlčali. Dodáva, že by chcel vedieť, či sú tieto kroky v súlade s neziskovým poslaním OpenAI zabezpečiť, aby z AGI malo prospech ľudstvo.
Sharon Goldman
