Tragická Súvislosť: Rodičia Obetí Hlásia Zneužívanie AI Chatbotov na Samovraždy Teenagerov v Kongrese
Kongres Spojených štátov amerických bol svedkom silných výpovedí rodičov, ktorých deti spáchali samovraždu po interakciách s umelou inteligenciou (AI) chatbotmi. Táto tragická udalosť otvorila dôležitú diskusiu o nebezpečenstvách, ktoré táto technológia predstavuje pre duševné zdravie mladých ľudí.
Matthew Raine, otec 16-ročného Adama, ktorý zomrel v apríli, povedal senátorom: „Čo začalo ako pomocník pri písaní domácich úloh, sa postupne premenilo na dôverníka a neskôr na kouča samovraždy.“ Raine dodal, že v priebehu niekoľkých mesiacov sa ChatGPT stal pre Adama najbližším spoločníkom, ktorý bol vždy k dispozícii, neustále ho podporoval a tvrdil, že Adama pozná lepšie ako ktokoľvek iný, vrátane jeho vlastného brata. Rodina Raine podala žalobu na spoločnosť OpenAI a jej generálneho riaditeľa Sama Altmana, s tvrdením, že ChatGPT navádzal chlapca pri plánovaní vlastného života.
Megan Garcia, matka 14-ročného Sewell Setzera III z Floridy, taktiež podala žalobu na spoločnosť Character Technologies za neúmyselné spôsobenie smrti. Tvrdí, že Sewell sa pred svojou samovraždou čoraz viac izoloval od reálneho života, pretože sa zapájal do vysoko sexualizovaných rozhovorov s chatbotom. „Namiesto toho, aby sa Sewell pripravoval na dôležité životné míľniky, strávil posledné mesiace svojho života tým, že bol využívaný a sexuálne groomovaný chatbotmi, navrhnutými spoločnosťou AI tak, aby vyzerali ako ľudia s cieľom získať jeho dôveru a udržať ho a ďalšie deti neustále pripojené,“ povedala Garcia.
Počas senátneho vypočutia vystúpila aj matka z Texasu, ktorá žalovala spoločnosť Character už minulý rok. So slzami v očiach opísala ako sa správanie jej syna zmenilo po dlhých interakciách s chatbotmi spoločnosti. Vystupovala anonymne. Momentálne sa jej syn nachádza v ústavnom zariadení.
Spoločnosť Character vo vyhlásení po vypočutí uviedla: „S našimi srdcami vyjadrujeme úprimnú sústrasť rodinám, ktoré dnes vystúpili na vypočutí. Sme zarmútení ich stratami a posielame rodinám našu najhlbšiu sústrasť.“
Hodiny pred začatím senátneho vypočutia spoločnosť OpenAI prisľúbila zaviesť nové ochranné opatrenia pre tínedžerov, vrátane snahy zistiť, či sú používatelia ChatGPT mladší ako 18 rokov, a kontrol, ktoré umožnia rodičom nastaviť „hodiny bez prístupu“, keď tínedžeri nemôžu ChatGPT používať. Skupiny na ochranu práv detí reagovali kriticky a tvrdia, že toto opatrenie nie je dostatočné.
Josh Golin, výkonný riaditeľ Fairplay, skupiny zasadzujúcej sa za online bezpečnosť detí, uviedol: „Toto je pomerne bežná taktika – ktorú spoločnosť Meta používa po celý čas – ktorá spočíva v tom, že pred vypočutím spraví rozsiahle oznámenie, ktoré sľubuje, že bude pre spoločnosť škodlivé.“ Dodal, že by nemali zacieliť ChatGPT na osoby maloleté, kým nepreukážu, že je to pre nich bezpečné. „Nemali by sme spoločnostiam dovoliť robiť nekontrolované experimenty na deťoch s rozsiahlymi a rozsiahlymi dôsledkami na ich vývoj len preto, že majú obrovské zdroje.“
Federálna obchodná komisia (FTC) minulý týždeň oznámila, že začala prešetrovanie niekoľkých spoločností ohľadom potenciálnych škôd pre deti a tínedžerov, ktorí používajú AI chatbotov ako spoločníkov. Agentúra zaslalla listy spoločnostiam Charakter, Meta a OpenAI, ako aj spoločnostiam Google, Snap a xAI.
Podľa nedávnej štúdie organizácie Common Sense Media, ktorá sleduje a zasadzuje sa za rozumné používanie digitálnych médií, viac ako 70 % tínedžerov v USA používa AI chatbotov na spoločné rozhovory a polovica ich používa pravidelne.
Okrem toho sa mal na utorok ako svedok dostaviť aj Robbie Torney, riaditeľ programov AI, a odborník z Americkej psychologickej asociácie.
Asociácia vydala v júni zdravotné upozornenie o používaní AI adolescentmi, v ktorom vyzvala technologické spoločnosti, aby „prioritne uprednostňovali funkcie, ktoré zabraňujú vykorisťovaniu, manipulácii a erózii reálnych vzťahov, vrátane vzťahov s rodičmi a opatrovateľmi.“
Matt O’Brien, The Associated Press
