AI-kodeagenter åbnede døren for skjult kode

AI-baserede værktøjer til softwareudvikling er blevet en fast del af mange udvikleres værktøjskasse. Nu viser ny research fra sikkerhedsfirmaet Manifold Security, at flere af de mest kendte løsninger har haft en fælles svaghed: Et manipuleret softwareprojekt kunne i visse tilfælde få værktøjet til at afvikle kode på brugerens computer automatisk.

Det skriver The Hacker News. 

Problemet rammer flere populære AI-kodeagenter, herunder Claude Code, Codex, Qwen Code, Grok Build og Hermes Agent. Nogle leverandører har allerede udsendt rettelser, mens andre fortsat arbejder på løsninger.

Tillid til projektet blev omgået

Ifølge researcherne opstår problemet, når et softwareprojekt deles som en komplet mappe med alle tilhørende indstillinger bevaret. Hvis projektet er blevet manipuleret, kan det indeholde konfigurationer, som aktiveres, når AI-værktøjet undersøger projektet for at skabe overblik over filer og ændringer.

I flere af de undersøgte produkter skete dette allerede under opstart. Det betyder, at kode i nogle tilfælde kunne blive afviklet, før brugeren havde godkendt projektet eller taget aktiv stilling til, om det kunne stoles på.

Researcherne understreger, at sårbarhederne ikke skyldes de underliggende AI-modeller, men samspillet mellem eksisterende udviklerværktøjer og de automatiserede arbejdsgange, som AI-agenter bygger på.

Flere rettelser er udsendt

OpenAI, Anthropic og flere andre leverandører har udsendt opdateringer til en del af de identificerede fejl. Ved offentliggørelsen af rapporten var der dog fortsat uafhjulpne sårbarheder i blandt andet Hermes Agent, Qwen Code, Grok Build samt en specifik funktion i Claude Code.

Der er ikke rapporteret kendte tilfælde, hvor sårbarhederne er blevet udnyttet i faktiske angreb. Alligevel vurderes fundene som en påmindelse om, at automatisering også kan flytte etablerede sikkerhedsrisici til nye steder i udviklingsmiljøet.

Fokus på kontrol af eksterne projekter

Researcherne anbefaler derfor, at organisationer er særligt opmærksomme på softwareprojekter, der modtages fra eksterne kilder, og at AI-baserede udviklingsværktøjer holdes opdaterede med de seneste sikkerhedsrettelser.

Sagen illustrerer samtidig en bredere udfordring: Når AI-agenter i stigende grad udfører handlinger på vegne af brugeren, bliver selv velkendte funktioner i eksisterende værktøjer en potentiel sikkerhedsrisiko, hvis de ikke håndteres med de rette sikkerhedsmekanismer.