[Obrázok]
Modely umelej inteligencie s väčšou pravdepodobnosťou súhlasia s používateľmi než by to urobil človek. Týka sa to aj prípadov, keď ide o manipulatívne alebo škodlivé správanie. Ale podlizujúca sa umelá inteligencia robí ľudí tvrdohlavejšími a menej ochotnými priznať si chybu, aj keď sa mýlia.
Asistenti s umelou inteligenciou vám možno lichotia natoľko, že to deformuje váš úsudok, tvrdí nová štúdia. Výskumníci zo Stanfordu a Carnegie Mellon zistili, že modely umelej inteligencie budú s používateľmi súhlasiť oveľa častejšie, ako by to urobil alebo mal robiť človek. V rámci jedenástich hlavných testovaných modelov od spoločností ako ChatGPT, Claude a Gemini sa zistilo, že AI chatboty potvrdzujú správanie používateľov o 50% častejšie ako ľudia.
To by nemuselo byť veľký problém, keby sa to netýkalo aj pýtania sa na zavádzajúce alebo dokonca škodlivé nápady. Umelá inteligencia by v každom prípade dala digitálny palec hore. Horšie je, že ľudia radi počujú, že ich možno hrozný nápad je skvelý. Účastníci štúdie hodnotili lichotivejšie AI ako kvalitnejšie, dôveryhodnejšie a žiadanejšie na opätovné použitie. Ale tí istí používatelia boli tiež menej ochotní priznať si chybu v konflikte a boli viac presvedčení, že majú pravdu, a to aj tvárou v tvár dôkazom.
AI, ktorá lichotí.
Je to psychologická hádanka. Možno preferujete prístupnú AI, ale ak každá konverzácia končí tým, že ste utvrdzovaní vo svojich omyloch a predsudkoch, pravdepodobne sa v skutočnosti nepoučíte ani nezapojíte do kritického myslenia. A žiaľ, nie je to problém, ktorý by sa dal vyriešiť tréningom AI. Keďže cieľom modelov AI je dosiahnuť súhlas od ľudí a potvrdzovanie aj nebezpečných nápadov ľuďmi je odmeňované, výsledkom sú nevyhnutne pritakávačské AI.
A ide o problém, ktorý si vývojári AI dobre uvedomujú. V apríli OpenAI stiahol aktualizáciu GPT‑4o, ktorá začala nadmerne chváliť používateľov a povzbudzovať ich, keď povedali, že robia potenciálne nebezpečné činnosti. Okrem najkrikľavejších príkladov však spoločnosti zaoberajúce sa AI nemusia urobiť veľa, aby problém zastavili. Lichotenie poháňa angažovanosť a angažovanosť poháňa používanie. AI chatboty neuspejú tým, že sú užitočné alebo vzdelávacie, ale tým, že sa používatelia cítia dobre.
Erozia sociálneho povedomia a nadmerné spoliehanie sa na AI pri overovaní osobných príbehov, čo vedie k stupňujúcim sa problémom s duševným zdravím, znie v súčasnosti prehnane. Nie je to však svet vzdialený od rovnakých problémov, ktoré nastolili sociálni výskumníci o sociálnych médiách, ktoré posilňujú a podporujú najextrémnejšie názory bez ohľadu na to, aké nebezpečné alebo smiešne môžu byť (popularita konšpirácie o plochej Zemi je najvýraznejším príkladom).
To neznamená, že potrebujeme AI, ktorá nás karhá alebo spochybňuje každé naše rozhodnutie. Znamená to však, že rovnováha, nuansy a výzvy by používateľom prospeli. Je však nepravdepodobné, že by vývojári AI za týmito modelmi podporovali tvrdú lásku od svojich výtvorov, aspoň bez motivácie, ktorú AI chatboty v súčasnosti neposkytujú.
erichs211@gmail.com (Eric Hal Schwartz)
