Autonome AI-agenter ændrer spillets regler i cybersikkerhed

Vi har hørt det mange gange i de sidste måneder: At AI revolutionerer cybersikkerhed både på angrebs- og forsvarssiden. At autonome AI-agenter er begyndt at udføre hele cyberangreb uden menneskelig indblanding. AI kan identificere sårbarheder, udføre netværksrekognoscering, eskalere privilegier og endda formulere afpresningsmails – alt sammen i realtid og i stor skala. 

Man kan blive ved, og som redaktør kan man dårligt finde på flere overskrifter om AI og cybersikkerhed uden at gentage sig selv

Essay om AI og cybersikkerhed

Man kan dårligt undgå at blive udmattet af at følge med i, hvad AI gør og kan. Ikke desto mindre er det værd at bruge lidt tid på at læse et essay, som tre af de mest betydelige sikkerhedsfolk har begået for nyligt i medie CSO Online den 8. oktober 2025: Autonomous AI hacking and the future of cybersecurity, skrevet af Heather Adkins vice president, security engineering hos Google, Gadi Evron, founder og CEO i Knostic og legenden inden for cybersikkerhed Bruce Schneier.

I essayet gennemgår de forskellige milepæle, som AI inden for offensiv og defensiv cybersikkerhed har nået bare i løbet af sommeren 2025. I perioden er følgende blevet demonstreret i praksis:

• AI-firmaet XBOW fandt over 1.000 nye sårbarheder via HackerOne og toppede den amerikanske leaderboard.
• Deltagere i DARPA’s AI Cyber Challenge opdagede 54 sårbarheder på blot fire timers computationstid.
• Google Big Sleep AI identificerede dusinvis af fejl i open source-projekter.
• Ukraine’s CERT opdagede russisk malware, der brugte en stor sprogmodel (LLM) til at automatisere hele angrebsforløbet.
• Anthropic afslørede en trusselaktør, der brugte Claude til at gennemføre et komplet angreb – fra netværksadgang til afpresning.
• Checkpoint rapporterede om HexStrike-AI, som skaber autonome agenter til vedvarende netværksadgang.
• Den kinesiske AI pentest-platform Villager blev lanceret med evnen til at automatisere hele angrebskæder.

Et teknologisk vendepunkt for cyberangreb

AI-agenter kan dermed matche, skriver forfatterne – og i visse tilfælde overgå – menneskelige hackere i både hastighed, skala og kompleksitet. De automatiserer hele angrebskæden: fra persistence og obfuscation til command-and-control og endpoint-evasion. Det betyder, at sårbarheder kan opdages og udnyttes i realtid, uden den traditionelle forsinkelse mellem opdagelse og udnyttelse.

Vi står over for en potentiel "singularitet" i cybersikkerhed, hvor angrebskapaciteten accelererer hurtigere, end forsvarssiden kan følge med. Det udfordrer grundlæggende antagelser i cybersikkerhedspraksis – som at der er tid til at patche systemer, eller at det hjælper at begrænse information om sårbarheder.

AI sænker adgangsbarrieren for cyberkriminalitet

Eksperterne peger på, at det mest alarmerende er, at AI reducerer kravene til teknisk ekspertise. Hvor avancerede angreb tidligere krævede dygtige specialister, kan nuværende AI-værktøjer give gennemsnitlige aktører adgang til sofistikerede angrebsmetoder. Det gør det muligt at skalere angreb globalt og målrette dem med præcision – både for økonomisk vinding og statslige formål.

AI behøver ikke være bedre end mennesker til alle opgaver – det er nok, at den er hurtigere, mere skalerbar, bredere i anvendelse eller mere sofistikeret på enkelte områder. Essayet fremhæver, at AI allerede excellerer i flere af disse dimensioner.

AI som forsvarsværktøj: Fire mulige udviklingsfaser

Selvom truslen er reel, rummer AI også potentiale til at styrke cybersikkerheden. Essayet skitserer fire faser i en mulig udvikling af AI-assisteret cyberforsvar:

1. Transformation af sårbarhedsresearcheren 

   AI kan demokratisere avanceret analyse og frigøre eksperter til at fokusere på kreative og strategiske opgaver. Ligesom værktøjer som IDA Pro tidligere gjorde reverse engineering tilgængeligt for flere, kan AI gøre sårbarhedsanalyse mere tilgængelig og effektiv.

2. Fremkomsten af VulnOps

   En ny disciplin kan opstå, hvor AI-værktøjer operationaliseres og integreres i virksomheders sikkerhedsarbejde – analogt med DevOps. Researchmiljøer er allerede i gang med at bygge pipelines til automatiseret sårbarhedsanalyse, som kan blive til SaaS-produkter eller interne platforme.

3. Disruption af softwaremodellen

   Hvis AI bliver en integreret del af udviklingspipelines, kan sårbarheder opdages og rettes automatisk – før software når produktion. Dette kaldes CD/CR (Continuous Discovery/Continuous Repair) og kan blive en naturlig forlængelse af CI/CD. Det kan også integreres i tredjepartsrisikostyring og leverandørgodkendelse.

4. Det selvhelende netværk

   Organisationer kan i fremtiden selv opdage og patche sårbarheder – også i tredjepartssoftware – uden at vente på leverandøropdateringer. Det rejser dog spørgsmål om ansvar, kompatibilitet og ret til reparation, men kan øge robustheden markant, fremhæves det.

En ny æra for cybersikkerhed

AI ændrer fundamentalt balancen mellem angreb og forsvar. Hvis ikke forsvarssiden formår at udnytte AI i samme tempo som angriberne, risikerer vi at miste kontrollen over det digitale trusselsbillede. Men med rettidig investering, innovation og samarbejde kan AI også blive vores stærkeste allierede, afsluttes det.

På DeiC-konferencens først dag, den 28. oktober, er der oplæg om AI i en offensiv og defensiv kontekst. Tilmelding til konferencen er fortsat åben til og med den 20. oktober.