Austrálska pobočka Deloitte vráti vláde časť platby za správu s chybami generovanými AI
Austrálska členská spoločnosť Deloitte vráti vláde časť platby za správu v hodnote 290 000 dolárov, ktorá obsahovala údajné chyby generované umelou inteligenciou (AI), vrátane odkazov na neexistujúce akademické výskumné práce a vymyslený citát z rozsudku federálneho súdu.
Správa bola pôvodne zverejnená na webovej stránke austrálskeho ministerstva zamestnanosti a pracovných vzťahov v júli. Revidovaná verzia bola ticho zverejnená v piatok po tom, čo Chris Rudge, výskumník zdravotného a sociálneho práva zo Sydneyskej univerzity, uviedol, že upozornil médiá na to, že správa je „plná vymyslených odkazov“.
Deloitte preveril 237-stranovú správu a „potvrdil, že niektoré poznámky pod čiarou a odkazy boli nesprávne,“ uviedlo ministerstvo v utorkovom vyhlásení.
Revidovaná verzia správy obsahuje upozornenie, že pri jej tvorbe bol použitý generatívny jazykový systém AI, Azure OpenAI. Odstraňuje tiež vymyslené citáty pripisované sudcovi federálneho súdu a odkazy na neexistujúce správy pripisované odborníkom na právo a softvérové inžinierstvo. Deloitte poznamenal v sekcii „Aktualizácia správy“, že aktualizovaná verzia, datovaná 26. septembra, nahradila správu zverejnenú v júli.
„Uskutočnené aktualizácie žiadnym spôsobom neovplyvňujú vecný obsah, zistenia a odporúčania v správe,“ napísal Deloitte.
Koncom augusta denník Australian Financial Review prvýkrát informoval, že dokument obsahuje viacero chýb, pričom citoval Rudga ako výskumníka, ktorý identifikoval zjavné nepresnosti generované AI.
Rudge objavil chyby v správe, keď si prečítal časť, v ktorej sa nesprávne uvádzalo, že Lisa Burton Crawford, profesorka verejného a ústavného práva na Sydneyskej univerzite, napísala neexistujúcu knihu s názvom, ktorý nespadal do jej oblasti odbornosti.
„Okamžite som vedel, že to buď vyfantazírovala AI, alebo je to najlepšie strážené tajomstvo na svete, pretože som o tej knihe nikdy nepočul a znela absurdne,“ povedal Rudge pre agentúru Associated Press.
Veľké štvorky poradenských firiem a globálne manažérske firmy, ako napríklad McKinsey, investovali stovky miliónov dolárov do iniciatív v oblasti AI s cieľom vyvinúť proprietárne modely a zvýšiť efektivitu. V septembri Deloitte uviedol, že do fiškálneho roku 2030 investuje 3 miliardy dolárov do vývoja generatívnej AI.
Spoločnosť Anthropic tiež oznámila partnerstvo s Deloitte, ktoré zahŕňa sprístupnenie Claude pre viac ako 470 000 odborníkov Deloitte.
V júni britská Rada pre finančné výkazníctvo, regulátor účtovníctva, varovala, že firmy Big Four nedokážu monitorovať, ako AI a automatizované technológie ovplyvňujú kvalitu ich auditov.
Hoci firma vráti austrálskej vláde poslednú splátku platby, senátorka Barbara Pocock, hovorkyňa strany Australian Greens pre verejný sektor, uviedla, že Deloitte by mal vrátiť celú sumu 290 000 dolárov.
Deloitte „zneužil AI a použil ju veľmi nevhodne: nesprávne citoval sudcu, použil neexistujúce odkazy,“ povedala Pocock pre Australian Broadcasting Corp. „Mám na mysli veci, za ktoré by mal študent prvého ročníka vysokej školy vážne problémy.“ Hovorca austrálskeho Deloitte pre agentúru Associated Press uviedol, že „záležitosť bola vyriešená priamo s klientom.“
Nino Paoli
