AI-agent stod bag opsigtsvækkende angreb mod hollandsk sårbarhedsorganisation
Den hollandske organisation Dutch Institute for Vulnerability Disclosure (DIVD) har været udsat for et cyberangreb, som ifølge organisationens egne undersøgelser blev udført ved hjælp af en autonom AI-agent. Hændelsen markerer et usædvanligt eksempel på, at kunstig intelligens tilsyneladende har spillet en aktiv rolle i de efterfølgende faser af et kompromis.
Det skriver Bleeping Computer.
DIVD er en nonprofitorganisation bestående af frivillige sikkerhedsresearchere, der identificerer sårbare systemer på internettet og hjælper ejere med at afhjælpe kendte sikkerhedsproblemer. Organisationen oplyste i sidste uge, at den efter syv års drift uden alvorlige sikkerhedshændelser var blevet kompromitteret.
Ifølge DIVD blev angrebet gennemført ved at udnytte en teknisk sårbarhed i et endnu ikke offentliggjort system. Organisationen understreger, at den anvendte sårbarhed ikke var relateret til Citrix NetScaler, som ellers har været centrum for flere markante sikkerhedshændelser de seneste år.
En angriber, der tænkte højt
Det mest opsigtsvækkende element i sagen er dog ikke den initiale adgang, men den efterfølgende aktivitet på netværket. DIVD vurderer, at angriberen anvendte en AI-agent, som selvstændigt traf beslutninger om næste skridt under operationen.
Organisationen beskriver forløbet som både støjende og kaotisk. I stedet for den diskrete adfærd, der normalt forbindes med avancerede trusselsaktører, efterlod agenten omfattende spor. Hver handling blev tilsyneladende fulgt af nye automatiserede beslutninger, udført med meget høj hastighed og uden tydelige tegn på menneskelig mellemkomst.
Ifølge DIVD kommenterede og forklarede agenten desuden egne handlinger i en grad, der har givet efterforskerne værdifuldt materiale til rekonstruktion af forløbet. Organisationen omtaler flere af agentens beslutninger som direkte uhensigtsmæssige og fremhæver blandt andet tilfælde, hvor den forstyrrede sin egen adversary-in-the-middle-operation gennem password spraying-aktiviteter.
Mulighed for indsigt i fremtidens angreb
Mens AI i stigende grad anvendes til automatisering af både forsvars- og angrebsaktiviteter, mener DIVD, at denne hændelse adskiller sig fra tidligere observerede angreb. Organisationen peger på, at den autonome adfærd og den løbende beslutningstagning indikerer brug af en agentisk AI-model snarere end traditionel automatisering.
Samtidig vurderer DIVD, at agenten sandsynligvis har været utilstrækkeligt trænet eller konfigureret til den konkrete opgave. Netop denne mangel på præcision kan have bidraget til, at efterforskerne har kunnet indsamle omfattende tekniske spor.
Organisationen har anmeldt hændelsen til både politiet, den hollandske databeskyttelsesmyndighed og National Cyber Security Center (NCSC). Efterforskningen er fortsat i gang, og flere detaljer tilbageholdes foreløbigt for ikke at påvirke arbejdet eller bringe andre potentielle ofre i fare.
DIVD har varslet en mere detaljeret redegørelse den 1. oktober. Samtidig arbejder organisationen på at identificere og underrette andre mulige berørte parter, hvis den udnyttede sårbarhed viser sig at have bredere konsekvenser.
For nu står ifølge Bleeping Computer én konklusion tilbage: Angriberen gjorde meget for at skjule sig, men AI-agenten havde tilsyneladende svært ved at holde mund undervejs.