Spoločnosť Apple pozastavila svoju funkciu AI, Apple Intelligence, po obrovskom nesúhlase používateľov a vydavateľov správ. Dôvodom bolo poskytovanie zavádzajúcich informácií a nepresných zhrnutí správ, napriek tomu, že inžinieri varovali pred hlbokými nedostatkami technológie pred jej uvedením.
Varovania a chyby pred vydaním
Inžinieri upozorňovali na niekoľko problémov:
- Halucinácie modelu: Apple Intelligence si často vymýšľala nepravdivé informácie, ako napríklad falošné správy o Rafaelovi Nadalovi či športových udalostiach.
- Slabá schopnosť riešiť problémy: Testovanie na matematických úlohách (napr. GSM8K dataset) odhalilo neschopnosť modelu efektívne rozlíšiť relevantné informácie, čo viedlo k nepresnostiam až na úrovni 65 %.
- Nedostatok zdravého rozumu: Výsledky testov naznačili, že model sa spolieha na porovnávanie vzorov namiesto logického uvažovania.
Kritika na trhu
Po uvedení technológie Apple Intelligence na trh sa spoločnosť stretla s vážnou kritikou:
- Vydavatelia správ: Platformy ako BBC vyjadrili obavy zo zavádzania čitateľov.
- Používatelia: Zhrnutia od Apple Intelligence často neodrážali realitu alebo si vymýšľali detaily, čo viedlo k strate dôvery.
- Odborníci: Kritici považujú rozhodnutie Apple ignorovať varovania za nezodpovedné.
Dôsledky pre Apple a odvetvie AI
- Pozastavenie funkcie: Apple pozastavilo používanie Apple Intelligence, kým sa nedokončia opravy. Aktualizácie softvéru sľubujú lepšiu identifikáciu textov generovaných AI.
- Dôvera používateľov: Tento incident môže poškodiť reputáciu spoločnosti v oblasti inovácií a znižuje dôveru v jej schopnosť efektívne implementovať AI.
- Konkurencia: Apple čelí výzve od technologických gigantov ako OpenAI či Google, ktorí vylepšujú svoje modely AI.
Čo bude nasledovať?
Apple vo vyhlásení uviedlo, že funkcie AI sú v beta verzii a spoločnosť pracuje na ich vylepšení. Používatelia sú vyzývaní nahlasovať chyby, aby pomohli pri ladení modelu.
Tento incident upozorňuje na potrebu dôkladného testovania AI technológií pred ich uvedením na trh a na výzvy, ktorým čelí celé odvetvie v snahe o dosiahnutie dôveryhodných a efektívnych modelov umelej inteligencie.
Príspevok Apple čelí kritike za chyby v AI technológii je zobrazený ako prvý na Kryptoblog24.