Automatiserede angreb rykker hurtigere end det automatiserede forsvar

Kunstig intelligens er på vej til at ændre cybersikkerhedslandskabet markant, men udviklingen kan i første omgang komme til at favorisere angriberne. Det er budskabet fra Dave Chismon, teknologichef for arkitektur i den britiske cybersikkerhedsmyndighed NCSC, der har skrevet et blogindlæg om spørgsmålet og som er refereret i en artikel i The Record. 

I blogindlægget argumenterer Chismon for, at defensive sikkerhedsoperationer står over for en grundlæggende udfordring: Det er langt lettere at automatisere et angreb end et forsvar.

Advarslen kommer på et tidspunkt, hvor både myndigheder, efterretningstjenester og teknologivirksomheder forsøger at forstå, hvordan agentiske AI-systemer vil påvirke fremtidens cybertrusler. Over sommeren har sikkerhedstest vist, at avancerede AI-modeller fra blandt andre Google, Anthropic, OpenAI og Meta kunne opnå adgang til virkelige systemer gennem relativt enkle metoder, herunder genbrug af kompromitterede legitimationsoplysninger.

Tidligere på året advarede efterretningssamarbejdet Five Eyes om, at avanceret AI inden for måneder snarere end år kan ændre både offensive og defensive cyberoperationer. Flere internationale aktører har siden udtrykt lignende bekymringer, men den konkrete effekt er fortsat vanskelig at måle. Samtidig er der endnu ikke set en tilsvarende stigning i AI-drevne cyberangreb.

Forsvaret mangler et klart facit

Chismon tager udgangspunkt i et udsagn fra sikkerhedsresearcheren Halvar Flake: Alle offensive problemer er tekniske problemer, mens alle defensive problemer er politiske problemer.

For angriberen er succes relativt enkel at måle. En sårbarhed bliver udnyttet, malware får kontakt til sin kontrolserver, eller legitimationsoplysninger kompromitteres. Resultatet er konkret og giver den type entydig feedback, som AI-systemer er særligt velegnede til at arbejde efter.

På forsvarssiden er billedet langt mere kompliceret. Her er succes ofte fraværet af en hændelse, og defensive handlinger udføres direkte på de systemer, der skal beskyttes. En fejlbehæftet opdatering kan afbryde kritiske forbindelser, og en forkert firewallregel kan lukke for centrale forretningsfunktioner.

Med andre ord: Angriberne kan slippe AI løs. Forsvarerne skal stadig spørge om lov.

Defensive handlinger kræver fortsat menneskelige vurderinger af risiko, konsekvenser og forretningsmæssige hensyn. Hvor en angriber blot kan acceptere, at et forsøg mislykkes, risikerer forsvareren selv at skabe den nedetid eller forstyrrelse, vedkommende forsøger at forhindre.

Ifølge Chismon gør det en afgørende forskel. Bestyrelsen vil i mange tilfælde opleve konsekvensen som den samme, uanset om et system går ned som følge af et cyberangreb eller på grund af en fejlbehæftet automatiseret forsvarshandling. Forskellen er blot, at organisationen kan holde sin egen sikkerhedsafdeling ansvarlig.

Storbritannien bygger selv autonomt forsvar

Paradoksalt nok arbejder NCSC samtidig på Cyber Shield, et initiativ der skal anvende agentisk AI til at identificere og afhjælpe cybersikkerhedsproblemer på tværs af britiske myndigheders netværk og kritiske infrastrukturer.

Men myndigheden understreger også, at teknologien endnu ikke er moden til at fungere som en fuldt autonom forsvarsmekanisme.

I stedet anbefaler Chismon, at organisationer begynder med mindre risikofyldte anvendelser. Et oplagt eksempel er at lade AI hjælpe med at analysere og opsummere trusselsinformation, mens mennesker fortsat træffer de operationelle beslutninger.

NCSC har samtidig udviklet en ramme, som skal hjælpe organisationer med at vurdere risikoen ved automatisering. Her indgår blandt andet kriterier som rækkevidde, påvirkning, kritikalitet, forudsigelighed og muligheden for at rulle en handling tilbage.

Der er stadig langt til den autonome forsvarer

Selv om forskningen bevæger sig hurtigt, erkender Chismon, at det grundlæggende problem fortsat er uløst: Hvordan sikrer man, at et autonomt forsvarssystem kan handle hurtigt og effektivt uden samtidig at udgøre en risiko for de systemer, det skal beskytte?

NCSC forventer derfor at offentliggøre en særskilt forskningsagenda for AI-baseret cyberforsvar som en del af Cyber Shield-initiativet.

Indtil videre er konklusionen klar. Organisationer bør fortsat styrke deres sikkerhed gennem klassiske discipliner som opdateringer, sårbarhedshåndtering, adgangskontrol og overvågning. For mens AI i stigende grad kan automatisere både angreb og forsvar, er det foreløbig kun den ene side af konflikten, der uden større betænkeligheder kan sætte teknologien fri.