Første del af EU’s AI-forordning trådt i kraft
Den 2. februar 2025 trådte de første regler i EU’s AI-forordning officielt i kraft. De nye regler indebærer blandt andet et forbud mod AI-systemer, der udgør en "uacceptabel risiko" eller sagt med andre ord: at de udgør en klar trussel mod sikkerhed, borgernes rettigheder eller menneskelig værdighed. Et andet krav, der også gælder fra 2. februar er, at virksomheder og offentlige myndigheder skal sikre "tilstrækkelig" AI-kompetence blandt deres medarbejdere.
Forordningen blev vedtaget i august 2024, og den er verdens første omfattende regulering af kunstig intelligens. Formålet er, at den skal sikre en ansvarlig udvikling og anvendelse af AI i Europa.
Hvilke AI-systemer bliver nu forbudt?
Som en del af de første regler, der altså trådte i kraft forbyder EU en række AI-systemer, der anses for at være særligt skadelige. Det omfatter blandt andet:
- Manipulerende AI-teknologier: Systemer, der udnytter sårbarheder hos mennesker for at ændre adfærd på en skadelig måde.
- Social scoring: AI-baserede vurderingssystemer, der rangerer borgere efter adfærd, økonomi eller andre personlige faktorer, som de fx kendes fra Kinas social credit-system.
- Biometrisk kategorisering baseret på følsomme data: AI, der klassificerer personer efter race, religion eller politiske holdninger.
- Masseovervågning uden retsgrundlag: Brugen af AI-drevne overvågningssystemer, der konstant sporer og identificerer individer på offentlige steder.
Nye krav til AI-kompetencer i organisationer
En anden central del af de regler, der trådte i kraft, er kravet om, at organisationer skal sikre, at medarbejdere har tilstrækkelig viden om AI.
Det betyder blandt andet, at virksomheder og offentlige institutioner, der anvender AI i beslutningsprocesser, skal:
- Gennemføre AI-uddannelse og træning for relevante medarbejdere.
- Sikre gennemsigtighed i brugen af AI, så både medarbejdere og borgere forstår, hvordan teknologien anvendes.
- Implementere interne retningslinjer for AI-etik og ansvarlig brug.
Dette krav er afgørende for at undgå uforudsete konsekvenser ved AI-beslutninger, især i sektorer som sundhed, finans og den offentlige forvaltning.
I Danmark har Digitaliseringsstyrelsen udarbejdet vejledninger for at hjælpe organisationer med at overholde de nye regler. Fra Digitaliseringsstyrelsens hjemmeside findes i øvrigt fine introduktioner og læringsværktøjer til forståelse af AI.