AI-agenter beholder adgangen længe efter opgaven er løst

Næsten alle IT- og sikkerhedsledere siger, at deres organisation har formelle regler for, hvilke data AI-værktøjer og AI-agenter må få adgang til. Alligevel har de oplevet eller mistænkt, at AI-systemer har tilgået følsomme oplysninger ud over det nødvendige for den aktuelle opgave.

Det viser Delineas rapport The AI Enforcement Gap, som er refereret i Help Net Security. Rapporten peger således på, at mange organisationer har politikker på plads, men mangler indsigt i, hvad AI-agenter rent faktisk foretager sig.

57 procent af de adspurgte vurderer, at politikkerne er dokumenteret og håndhævet godt nok til at give overblik over AI-adgang. Omkring halvdelen kontrollerer adgang op mod politikkerne i realtid, mens færre end hver femte opdagede den seneste hændelse med uautoriseret adgang, mens den fandt sted.

Adgang bliver hængende

Et af rapportens centrale fund er, at AI-agenters adgang ofte fortsætter efter opgaven er afsluttet.

Organisationer giver AI-agenter adgang til systemer, databaser og applikationer for at løse konkrete opgaver. Men adgangen bliver ofte stående, indtil legitimationsoplysninger udløber eller fjernes manuelt.

42 procent af de adspurgte IT- og sikkerhedsledere oplyser, at deres organisation ikke har en automatiseret metode til at fjerne AI-agenters adgang, når en session afsluttes.

Samtidig etableres forbindelser til virksomhedens systemer i nogle tilfælde uden om de normale godkendelsesprocesser. AI-værktøjer får adgang til blandt andet kundedata, medarbejderoplysninger, økonomiske informationer, sikkerhedslogfiler og kildekode.

Arver medarbejdernes rettigheder

Mange organisationer lader AI-agenter arbejde med de samme rettigheder som den medarbejder, der aktiverer dem.

Det giver adgang til privilegier, som medarbejderen har opbygget gennem år med projekter og rolleændringer. Resultatet kan være, at agenten får adgang til systemer og data, som ligger uden for den aktuelle opgave.

Da moderne AI-agenter selv kan sammensætte handlingsforløb og vælge værktøjer for at nå et mål, kan brede rettigheder føre til handlinger, som ikke var forudset ved godkendelsen.

Begrænset overvågning og sporbarhed

Rapporten peger også på begrænset indsigt i agenternes aktiviteter efter tilslutning til virksomhedens miljøer.

Særligt softwareudviklingsmiljøer, CI/CD-pipelines og Kubernetes-platforme har lave niveauer af kontrol i selve udførelsesøjeblikket. Her kan AI-baserede kodningsagenter potentielt ændre både applikationer og infrastruktur.

Mange organisationer bruger desuden mindst et døgn på at opdage den seneste hændelse, hvor en AI-agent eller et AI-værktøj har tilgået data uden for sit tilsigtede område. I mellemtiden kan agenten fortsætte med at udføre handlinger uden menneskelig indgriben.

Kun 36 procent af de adspurgte IT-medarbejdere svarer, at de altid kan spore en AI-relateret adgangshændelse til den person, der godkendte adgangen. Det gør det vanskeligere at fastslå ansvar og rekonstruere hændelsesforløb, når noget går galt.