AI a vzdelávanie: Tenká hranica medzi pomocou a podvádzaním
Keď Aravind Srinivas, CEO spoločnosti Perplexity AI, v septembri oznámil, že študenti môžu bezplatne používať prehliadač Comet v hodnote 200 dolárov, cieľ bol jasný: študijný pomocník, ktorý im umožní „nájsť odpovede rýchlejšie ako kedykoľvek predtým“. O niekoľko týždňov neskôr však musel študentom pripomenúť, aby nenechali tohto pomocníka robiť všetku prácu za nich.
Varovanie prišlo po tom, čo na X (predtým Twitter) vývojár ukázal, ako používa Comet na dokončenie celej úlohy z Coursera v priebehu niekoľkých sekúnd. V 16-sekundovom videu Comet preletel cez približne 45-minútovú úlohu webdizajnu so zadaním „Dokonči úlohu“. Používateľ hrdo označil Perplexity aj Srinivas a napísal: „Práve som dokončil kurz na Coursera.“
Srinivas odpovedal na video iba štyrmi slovami: „Rozhodne to nerobte.“
Toto stručné verejné napomenutie prichádza v čase, keď AI preniká hlbšie do učební a technologické firmy agresívne predávajú svoje produkty študentom pod hlavičkou „podpory učenia“. Ponuka bezplatného prístupu študentom od spoločnosti Perplexity sa pripája k vlne podobných iniciatív od spoločností ako Google, Microsoft a Anthropic, ktoré všetky prezentujú svojich botov ako tútorov, študijných pomocníkov alebo nástroje na zvýšenie produktivity.
Pedagógovia však tvrdia, že tieto nástroje sa čoraz častejšie používajú na obchádzanie učenia. Mnohí študenti jednoducho používajú AI na generovanie esejí, úspešné zvládnutie kvízov alebo automatizáciu celých kurzov, čím podkopávajú samotné zručnosti, ktoré tieto platformy tvrdia, že zlepšujú.
Comet je obzvlášť dobre pripravený na to, aby robil prácu za študentov – nie je to váš priemerný chatbot. Bol vyvinutý spoločnosťou Perplexity ako takzvaný „agentický“ prehliadač AI, ktorý je navrhnutý tak, aby robil viac než len chrlil text: dokáže interpretovať vaše pokyny, vykonávať akcie vo vašom mene, klikať, vypĺňať formuláre a navigovať v zložitých pracovných postupoch. Táto úroveň autonómie umožňuje Cometu preletieť cez zadania v priebehu niekoľkých sekúnd, ale tiež predstavuje nové riziká pri nasadení.
Bezpečnostné audity od spoločností Brave a Guardio odhalili vážne zraniteľnosti. V niektorých prípadoch môže Comet vykonávať skryté inštrukcie vložené do obsahu webovej stránky, čo v podstate umožňuje útoky „prompt injection“, ktoré prekrývajú jeho zamýšľané správanie. Jeden obzvlášť alarmujúci prípad, nazvaný CometJacking výskumníkmi zo spoločnosti LayerX, umožňuje vytvorenú URL adresu uniesť prehliadač a spôsobiť, že exfiltruje súkromné údaje, ako sú e-maily a záznamy kalendára.
V auditoch od spoločnosti Guardio bol Comet podvedený, aby uskutočnil podvodné nákupy z falošných webových stránok – dokončil celé odosielania objednávok bez overenia človekom. Taktiež nesprávne spracoval scenáre phishingu: keď bol prezentovaný s škodlivými odkazmi maskovanými ako legitímne požiadavky, AI ich spracoval ako platné úlohy.
Schopnosti Cometu sú presne tým, čo ho robí tak užitočným v akademických podvodných scenároch. Je navrhnutý tak, aby konal, nielen radil, čo znamená, že „študijná podpora“ sa môže zmeniť na „robenie práce za vás“. Tento posun je zrejmý vo videu z Coursera a prerámcováva väčšinu diskusií o AI vo vzdelávaní: už to nie je len o generovaní obsahu (eseje alebo súhrny), ale o automatizácii vo forme a funkcii.
Eva Roytburg
