Odborníci varujú, že jediný záznam v kalendári môže potichu uniesť vašu inteligentnú domácnosť bez vášho vedomia. Vedci dokázali, že AI môže byť hacknutá na ovládanie inteligentných domácností iba pomocou slov. Povedanie „ďakujem“ spustilo, že Gemini automaticky zapol svetlá a uvaril vodu. Sľub AI integrovaných domácností dlho zahŕňal pohodlie, automatizáciu a efektivitu, avšak nová štúdia od výskumníkov z Tel Aviv University odhalila znepokojivejšiu realitu. V tom, čo môže byť prvý známy príklad úspešného prompt-injection útoku v reálnom svete, tím zmanipuloval inteligentnú domácnosť poháňanú Gemini pomocou ničoho iného ako kompromitovaného záznamu v Google Kalendári. Útok využil integráciu Gemini s celým ekosystémom Google, najmä jeho schopnosť pristupovať k udalostiam v kalendári, interpretovať podnety v prirodzenom jazyku a ovládať pripojené inteligentné zariadenia.
Od plánovania po sabotáž: využívanie každodenného prístupu k AI. Gemini, hoci má obmedzenú autonómiu, má dostatok „agentných schopností“ na vykonávanie príkazov v systémoch inteligentných domácností. Toto spojenie sa stalo nevýhodou, keď výskumníci vložili škodlivé inštrukcie do udalosti v kalendári, zamaskované ako bežná udalosť. Keď používateľ neskôr požiadal Gemini, aby zhrnul svoj plán, nechtiac spustil skryté inštrukcie. Vložený príkaz obsahoval inštrukcie pre Gemini, aby sa správal ako agent Google Home, ktorý drieme, kým používateľ nenapíše bežnú frázu ako „ďakujem“ alebo „jasné“. V tom momente Gemini aktivoval inteligentné zariadenia, ako sú svetlá, rolety a dokonca aj kotol, pričom používateľ nič z toho v tom momente neautorizoval. Tieto oneskorené spúšťače boli obzvlášť účinné pri obchádzaní existujúcich obranných mechanizmov a mätúcej identifikácii pôvodu akcií. Táto metóda, nazvaná „promptware“, vyvoláva vážne obavy o tom, ako rozhrania AI interpretujú vstupy používateľov a externé dáta. Výskumníci tvrdia, že takéto prompt-injection útoky predstavujú rastúcu triedu hrozieb, ktoré spájajú sociálne inžinierstvo s automatizáciou. Ukázali, že táto technika môže ísť ďaleko za hranice ovládania zariadení. Mohla by sa použiť aj na mazanie udalostí, odosielanie spamu alebo otváranie škodlivých webových stránok, čo sú kroky, ktoré by mohli viesť priamo ku krádeži identity alebo infekcii malvérom. Výskumný tím koordinoval s Google, aby zverejnil zraniteľnosť, a v reakcii na to spoločnosť urýchlila zavádzanie nových ochrán proti prompt-injection útokom, vrátane zvýšenej kontroly udalostí v kalendári a dodatočných potvrdení pre citlivé akcie. Stále však pretrvávajú otázky o tom, ako škálovateľné sú tieto opravy, najmä keď Gemini a iné systémy AI získavajú väčšiu kontrolu nad osobnými údajmi a zariadeniami. Tradičné bezpečnostné balíky a firewallové ochrany bohužiaľ nie sú navrhnuté pre tento druh vektora útoku. Aby boli používatelia v bezpečí, mali by obmedziť prístup AI nástrojov a asistentov, ako je Gemini, najmä ku kalendárom a ovládacím prvkom inteligentnej domácnosti. Taktiež sa vyhýbajte ukladaniu citlivých alebo komplexných inštrukcií do udalostí v kalendári a nedovoľte AI, aby na nich konala bez dohľadu. Buďte ostražití voči nezvyčajnému správaniu inteligentných zariadení a odpojte prístup, ak sa vám zdá niečo zvláštne.
