Organizácia Encode, vedená mládežou, podala amicus brief na federálny súd, žiadajúc o zastavenie prechodu OpenAI zo svojej pôvodnej neziskovej štruktúry na ziskový subjekt. Podľa Encode by tento krok mohol vystaviť ľudstvo existenčným rizikám spojeným s pokročilou umelou inteligenciou, pretože ziskové záujmy by mohli prevážiť nad verejnou bezpečnosťou.

Podpora od AI odborníkov

Významní vedci v oblasti umelej inteligencie, vrátane Geoffreyho Hintona, laureáta Nobelovej ceny, a Stuart Russella, priekopníka v tejto oblasti, vyjadrili podporu návrhu Encode. Odborníci tvrdia, že:

• Ziskové motivácie môžu narušiť ochranné mechanizmy, ktoré udržujú rozvoj umelej inteligencie v súlade s etickými a bezpečnostnými normami.
• Nezisková misia OpenAI bola navrhnutá s cieľom zaručiť, že pokročilé technológie umelej inteligencie budú slúžiť ľudstvu, a nie len záujmom investorov.

Vyhlásenie prezidentky Encode

Sneha Revanur, prezidentka Encode, vyjadrila obavy v jasnom a emocionálnom vyhlásení:

„Nezisková misia OpenAI nie je len prísľubom – je to záchranné lano ľudstva. Premena na stroj na zisk vystavuje každého riziku.“

Encode argumentuje, že prioritizácia návratnosti investícií by mohla urýchliť vývoj umelej inteligencie bez dostatočného zohľadnenia jej bezpečnosti a regulačných opatrení.

Kontext premeny OpenAI

OpenAI bola založená ako nezisková organizácia s cieľom zabezpečiť, aby umelá inteligencia prospešná pre ľudstvo nebola riadená výlučne trhovými silami. V roku 2019 však OpenAI prešla na hybridnú štruktúru „capped-profit“, umožňujúcu prílev rizikového kapitálu s limitovaným výnosom pre investorov. Tento krok vyvolal diskusie o možnom konflikte medzi ziskovými cieľmi a pôvodnou víziou bezpečného rozvoja AI.

Súdne pojednávanie

Federálny súd sa bude zaoberať touto otázkou na pojednávaní naplánovanom na 14. januára 2025. Rozhodnutie súdu by mohlo mať zásadný vplyv na budúcnosť OpenAI a širšie smerovanie vývoja umelej inteligencie.

Záver

Prípad zdôrazňuje rastúce obavy z komercializácie technológií umelej inteligencie, ktoré môžu mať obrovský vplyv na spoločnosť. Rozhodnutie súdu o zachovaní neziskového poslania OpenAI alebo povolení jej ziskovej transformácie bude kritické pre budúce smerovanie tejto revolučnej technológie a jej vplyvu na globálnu bezpečnosť.

Príspevok OpenAI: Existenčné riziká prechodu na ziskový subjekt je zobrazený ako prvý na Kryptoblog24.