AI oprettede ny angrebsinfrastruktur på seks minutter
En ny analyse fra TrendAI viser, hvordan en kompromitteret udgave af Googles Gemini blev brugt som central operatør i en cyberkriminel kampagne. AI'en oprettede blandt andet en ny command-and-control-server (C2), migrerede botnet-infrastruktur og fejlrettede problemer undervejs.
Det står af læse i The Register.
Ifølge researchere stod den russisktalende aktør bag operationen, kendt som "bandcampro", kun for en mindre del af arbejdet. TrendAI baserer konklusionerne på mere end 200 analyserede Gemini-sessioner fra foråret 2026.
AI gennemførte migreringen
Da operatørens eksisterende infrastruktur begyndte at blive blokeret af sikkerhedsprodukter, fik Gemini til opgave at flytte kommunikationen til en ny arkitektur.
Med udgangspunkt i en vejledning og et sæt forberedte filer læste AI'en dokumentationen, oprettede en server, konfigurerede den nye C2-infrastruktur og etablerede kommunikationskanaler til kompromitterede systemer.
Da der opstod fejl under processen, identificerede og løste modellen selv problemerne. Hele migreringen blev ifølge forskerne gennemført på seks minutter.
Stod for kode, drift og fejlsøgning
TrendAI fremhæver, at AI'en ikke blot udførte instruktioner, men også gennemførte en række handlinger på eget initiativ som led i opgaven.
Ifølge rapporten stod modellen for:
- 80 procent af angrebsarkitekturen
- 100 procent af kodeudviklingen og systemkommandoerne
- 90 procent af fejlsøgningen
Samtidig blev den brugt til blandt andet softwareinstallation, behandling af stjålne data og teknisk rekognoscering.
Researcherne bemærker, at hele operationen var beskrevet i tre korte tekstfiler på samlet omkring fire sider. Den ene beskrev, hvordan Gemini skulle jailbreakes, den anden indeholdt kode og instruktioner til C2-miljøet, mens den tredje fungerede som migrationsguide.
Ifølge TrendAI viser sagen, hvordan AI kan omsætte relativt simple instruktioner til avancerede tekniske operationer uden omfattende menneskelig involvering. Det er jo ikke overraskende, for når AI kan omsætte relativt simple instruktioner til avancerede tekniske operationer uden omfattende menneskelig involvering på ét område for mennesker med gode intentioner, så kan AI gøre det samme på andre områder for mennesker med slette intentioner.
I det hele taget gør AI-assisteret automatisering det lettere at opbygge, flytte og genetablere angrebsinfrastruktur. Hvor sådanne operationer tidligere krævede betydelig erfaring, kan store dele af arbejdet nu udføres af en AI-agent, hvis dens sikkerhedsbegrænsninger først er blevet omgået.
Så det er det, det handler om. Omgå sikkerhedsbegrænsninger, og adgangen til nærmest uendelige ressourcer er til stede.