Technologické firmy nesmú zanedbávať bezpečnosť pri AI. Bývalý tvorca ChatGPT varoval pred možným zneužitím.
Hlavný predstaviteľ spoločnosti Anthropic, ktorá sa zaoberá umelou inteligenciou, vyzval na opatrnosť. Veľkým technologickým firmám, súťažiacim v komercializácii umelej inteligencie (AI), nemôžeme dôverovať, že zabezpečia systémy, ktorých správanie ešte nerozumieme a ktoré môžu byť nepredvídateľné.
V utorok na zasadnutí Bezpečnostnej rady Organizácie Spojených národov (BR OSN) sa vyjadril jeden z vedúcich predstaviteľov spoločnosti Anthropic, Jack Clark. Varoval pred potenciálnymi hrozbami pre svetový mier vyplývajúcimi z vlastností systémov umelej inteligencie – ich zneužiteľnosti a nepredvídateľnosti.
Clark tiež zdôraznil, že veľké technologické spoločnosti majú najviac zdrojov a ovplyvňujú vývoj AI. Clarkova spoločnosť sa snaží trénovať svojho chatbota s AI tak, aby kládol dôraz na bezpečnosť. Podotkol, že globálne opatrenia sú dôležité, a teší ho, že viaceré krajiny už upriamujú pozornosť na testovanie a hodnotenie bezpečnosti umelej inteligencie.
Generálny tajomník OSN António Guterres označil OSN za ideálne miesto na prijatie globálnych noriem pre AI, ktoré maximalizujú jej prínosy a znižujú riziká. Navrhol zriadenie poradného výboru pre umelú inteligenciu s cieľom preskúmať možnosti globálneho riadenia tejto technológie.
© Slovenský večerník/ilustračné foto
