Agenti – softvérové systémy schopné rozhodovať alebo samostatne vykonávať úlohy – už nie sú experimentálne. Dnes sú títo agenti funkční, distribuovaní a aktívne sa rozhodujú v rámci celého podniku. Od písania kódu až po plánovanie úloh, agenti začínajú prenikať do každej oblasti podnikania. Dôvod je jasný: agenti sľubujú výrazné zvýšenie produktivity.
Niektorí budú hlboko integrovaní, čo sťaží ich odhalenie alebo sledovanie. Iní budú fungovať autonómne, neustále sa učiť a adaptovať v reálnom čase. Mnohí môžu mať rozsiahle prístupové práva v mene efektivity. To prináša významný potenciál pre pozitívny dopad aj riziko.
A ako narastá ich používanie, mnohé organizácie budú čeliť novej výzve: zabezpečeniu agentov v rozsiahlej miere. Podniky budú musieť zabezpečiť, aby inovácie neprekonali bezpečnosť a správu. V hre je príliš veľa; jedno jediné nesúhlasné stanovisko, slabé miesto alebo nezamýšľané správanie môže viesť k nekontrolovateľnému efektu neetického alebo škodlivého konania.
Už sme videli skutočné príklady zlyhaní umelej inteligencie – niekedy odhaľujúce citlivé údaje alebo robiace vážne chyby. Jeden asistent s umelou inteligenciou notoricky odporúčal používateľom jesť kamene a v inom prípade zákaznícky servisný chatbot nasadený logistickou spoločnosťou začal vydávať agresívne reakcie. Oba príklady ukazujú riziko zlých tréningových dát – agenti s umelou inteligenciou sa neučia len fakty, učia sa aj správanie, a zlý vstup vedie k zlému výstupu.
Cloud Déjà vu, teraz s agentmi
Bez dôsledného dohľadu môžu agenti konať mimo zamýšľaného použitia a poškodiť reputáciu značky. Preto je dôležité, aby bola bezpečnosť zabudovaná od začiatku. Rovnako ako soľ a korenie, vždy môžete neskôr posypať viac, ale ak ich zabudnete pridať počas varenia, chuť – a v tomto prípade ochrana – jednoducho nebude rovnaká. Bezpečnosť musí byť integrovaná od začiatku, čakať až po nasadení na dodatočné zabezpečenie je recept na zraniteľnosti.
Zvážte, čo sa stalo počas masovej migrácie na technológie cloud computingu. Prijatie viedlo k závažným bezpečnostným prešľapom, dátovým silám a medzerám v prehľade. Medzerám, ktoré boli a naďalej sú využívané útočníkmi.
Teraz s agentmi je to ako zlý prípad déjà vu. Opäť raz, inovácie predbiehajú bezpečnosť. V mnohých prípadoch sú tieto autonómne nástroje integrované do kritických systémov s obmedzeným dohľadom a chýbajúcou náležitou bezpečnosťou a kontrolami.
Ak neuplatníme ťažké lekcie naučené z éry cloudu, riskujeme opakovanie rovnakých chýb, ale tentoraz s oveľa nepredvídateľnejšími systémami. Preto musí byť bezpečnosť jadrom agentov.
Zabezpečenie každého kontaktného bodu agenta
Zabezpečenie agentov si však vyžaduje rozšírený prístup, ktorý zohľadňuje autonómne správanie, vrátane prebiehajúcich interakcií s dátami, systémami a používateľmi. Agenti potrebujú silnú vrstvu dôvery, kde každá interakcia, od volaní API až po manipuláciu s citlivými dátami, musí byť v reálnom čase zmapovaná, chránená a riadená.
Základnou súčasťou tejto vrstvy dôvery je zabezpečenie dát, s ktorými agenti interagujú – vstupy, výstupy a všetko medzi tým. Dáta sú palivom agentov, a bez základnej bezpečnosti sa toto palivo stáva hlavným rizikom. Podniky sa musia zamerať na základy, ako je objavovanie a klasifikácia dát, šifrovanie a správa kľúčov.
Stratégie riadenia prístupu a identity sa musia tiež vyvíjať, keďže agenti preberajú v podniku pokročilejšie úlohy. Rovnako ako ľudia, každý agent bude vyžadovať svoje vlastné jedinečné poverenia, roly a povolenia, aby sa zabezpečilo, že každá interakcia je autorizovaná a overená.
Poverenia agenta by mali byť uložené v zabezpečenej, automatizovanej úschovni poverení, pričom zásady presadzujú pravidelnú rotáciu, protokolovanie prístupu a okamžité odvolanie, ak sa zistí zneužitie. Organizácie musia byť schopné rozlišovať medzi agentmi používajúcimi spravované alebo nespravované poverenia.
A akonáhle sú poverenia agenta pod správou, je kľúčové chrániť a presadzovať správne riadenie životného cyklu a správu. Poskytovaním, rotovaním, auditovaním, ochranou a vyraďovaním poverení môžu organizácie znížiť riziko zneužitia a krádeže poverení.
Bez silného dohľadu nad identitou podniky riskujú stratu prehľadu o identitách ľudí aj agentov a kontroly nad autonómnym konaním.
Decentralizovaní agenti potrebujú centralizovanú bezpečnosť
Avšak, v rozsiahlej miere si správa agentov, a najmä autonómnych agentov, bude vyžadovať dodatočnú kontrolu na sledovanie správania, interakcií a odchýlok od zásad. Zvážte typ agenta „manažéra bezpečnosti“, ktorý zapája agentov a ľudí do procesu na budovanie dôvery v to, ako agenti fungujú.
To by malo byť viac ako len informačný panel, skôr inteligencia schopná porozumieť tomu, čo agenti robia, prečo to robia a či ich správanie neustále zodpovedá zásadám a prahovým hodnotám rizika. Označuje anomálie, presadzuje obmedzenia a umožňuje ľudskú kontrolu, keď je to potrebné.
Táto posledná časť je obzvlášť dôležitá. Ľudský dohľad zostáva nevyhnutný, najmä pri rozsiahlej implementácii agentov. Táto kontrolná vrstva sa stáva bezpečnostným svedomím vašej flotily agentov: neustále sleduje, interpretuje a umožňuje distribuovanú a dôveryhodnú autonómiu.
Ako sa agenti naďalej šíria, schopnosť nasadzovať ich zodpovedne určí, kto dokáže bezpečne rásť a kto prináša zbytočné riziko. Na zabezpečenie ekosystémov agentov by mali organizácie integrovať bezpečnosť od začiatku nasadenia, neustále sledovať správanie a prístup, udržiavať silný ľudský dohľad a pravidelne auditovať a aktualizovať bezpečnostné zásady.
Podniky, ktoré to zvládnu, odomknú výraznú produktivitu a odolnosť; nie spomalením agentov, ale poskytnutím bezpečnosti a správy, ktorú potrebujú na bezpečné a zodpovedné fungovanie.
