Hvad er EU AI Act?

EU AI Act er EU’s risikobaserede forordning om kunstig intelligens. Den forbyder enkelte AI-praksisser, stiller krav til højrisiko-systemer og regulerer generelle AI-modeller, så organisationer skal kunne dokumentere, hvordan AI påvirker mennesker, sikkerhed og grundlæggende rettigheder.

Hvad regulerer EU AI Act?

EU AI Act regulerer udvikling, markedsføring og brug af AI-systemer i EU. Den er en forordning, ikke et direktiv, og gælder derfor direkte i medlemslandene uden at skulle omskrives til en national hovedlov først. Nationale regler og myndigheder får stadig betydning for tilsyn, klager og håndhævelse.

Forordningen handler ikke om al software. Den tager udgangspunkt i AI-systemer, der med en vis grad af autonomi kan udlede output fra input, for eksempel anbefalinger, beslutningsstøtte, forudsigelser eller genereret indhold. Et almindeligt regelbaseret regneark er derfor ikke automatisk omfattet, mens et system til automatisk scoring, prioritering eller generering kan være det.

Reglerne rammer forskellige aktører forskelligt. En udbyder udvikler eller bringer et AI-system eller en generel AI-model på markedet under eget navn. En brugerorganisation, som anvender systemet under sin egen myndighed, kaldes en deployer i forordningen. Importører, distributører, produktproducenter og downstream-udbydere kan også få pligter, hvis de ændrer, integrerer eller videreformidler et system.

Den praktiske konsekvens er, at en organisation først skal forstå sin rolle, før den kan forstå sine pligter. Den samme AI-tjeneste kan være lav risiko for en privat bruger, men højere risiko i en ansættelsesproces, i uddannelse, i kritisk infrastruktur eller i offentlig sagsbehandling. Det gør AI-governance til en konkret styringsopgave og ikke kun et teknisk spørgsmål.

Hvornår gælder reglerne?

AI Act trådte i kraft den 1. august 2024. Hovedreglen er, at forordningen finder anvendelse fra 2. august 2026, men flere dele gælder før eller senere. Forbudte AI-praksisser og kravet om AI-literacy begyndte at gælde fra 2. februar 2025, mens governance-regler og regler for generelle AI-modeller begyndte at gælde fra 2. august 2025.

Kommissionens aktuelle implementeringsside angiver samtidig en justeret tidslinje for visse højrisiko-regler efter den politiske aftale om forenkling af AI Act. Her fremgår det, at regler for systemer i bestemte højrisiko-områder, for eksempel biometrik, kritisk infrastruktur, uddannelse, beskæftigelse, migration, asyl og grænsekontrol, anvendes fra 2. december 2027, mens systemer indbygget i regulerede produkter anvendes fra 2. august 2028.

Datoerne betyder, at AI Act ikke bør behandles som en fjern fremtidsregel. Hvis du anskaffer, bygger eller ændrer AI-systemer nu, kan kontrakter, dokumentation, datagrundlag og intern ansvarfordeling blive svære at rette sent i processen. En enkel oversigt over systemer, formål og risikokategori er derfor et realistisk første skridt.

Hvordan fungerer den risikobaserede model?

AI Act bruger en risikobaseret model. Det betyder, at pligterne afhænger af, hvad systemet bruges til, hvem det påvirker, og hvor alvorlige konsekvenserne kan være. Forordningen er ikke en generel licensordning for alle AI-værktøjer og heller ikke et totalforbud mod AI. Den lægger de tungeste krav på anvendelser, der kan påvirke sikkerhed, sundhed eller grundlæggende rettigheder.

Den øverste kategori er uacceptabel risiko. Her er bestemte AI-praksisser forbudt. Næste kategori er højrisiko, hvor systemer kan bruges, men kun med dokumentation, risikostyring, kvalitet, overvågning og kontrol. En tredje gruppe er systemer med særlige gennemsigtighedskrav, for eksempel chatbots og visse former for syntetisk indhold. Den største gruppe er minimal eller lav risiko, hvor AI Act ikke indfører samme tunge krav.

Risikokategorien bestemmes ikke kun af teknologien. En sprogmodel kan bruges til udkast til interne mødenoter, kundedialog, juridisk analyse, eksamensbedømmelse eller rekruttering. Det er anvendelsen, konteksten og konsekvensen for personer, der afgør, hvor tæt systemet kommer på AI Act’s strengere krav.

Det er derfor utilstrækkeligt at spørge, om en model er “godkendt”. En organisation skal også spørge, hvad systemet bruges til, hvilke data det behandler, hvilke personer det påvirker, om mennesker kan kontrollere outputtet, og om leverandøren kan levere dokumentation. Det er samme praktiske tankegang, som ligger bag en intern AI-politik.

Hvilke AI-praksisser er forbudt?

AI Act forbyder en afgrænset gruppe AI-praksisser, som EU vurderer som uacceptable på grund af risiko for sikkerhed, værdighed, demokrati eller grundlæggende rettigheder. Forbuddene omfatter blandt andet skadelig manipulation, udnyttelse af sårbare personer, social scoring, visse former for kriminalitetsrisikovurdering baseret alene på profilering, og ukritisk scraping af ansigtsbilleder fra internet eller overvågning for at opbygge ansigtsdatabaser.

Forordningen nævner også forbud mod visse former for emotion recognition på arbejdspladser og uddannelsesinstitutioner, biometrisk kategorisering for at udlede beskyttede karakteristika og realtidsfjernidentifikation med biometriske data til retshåndhævelse i offentligt tilgængelige rum, bortset fra snævre undtagelser. De konkrete undtagelser er tekniske og skal læses i sammenhæng med lovteksten.

Forbuddene er ikke kun relevante for myndigheder eller store teknologileverandører. En virksomhed, skole eller platform kan komme tæt på forbuddene, hvis den bruger AI til at presse adfærd, udnytte sårbarheder eller lave personvurderinger uden et legitimt, afgrænset og kontrolleret formål. Det er især følsomt, når systemet påvirker adgang til job, uddannelse, kredit, offentlige ydelser eller andre væsentlige muligheder.

Et praktisk kontrolspørgsmål er, om AI-systemet ændrer en persons muligheder eller behandling på grundlag af data, personen ikke rimeligt kan forstå eller anfægte. Hvis svaret er ja, bør anvendelsen vurderes grundigt, før systemet sættes i drift. Det gælder også, hvis leverandøren beskriver funktionen som “analyse”, “score” eller “indsigt” frem for som en afgørelse.

Hvornår bliver et AI-system højrisiko?

Et AI-system bliver ikke højrisiko, fordi det er avanceret, populært eller baseret på en stor model. Højrisiko afhænger især af anvendelsesområdet. AI Act peger blandt andet på kritisk infrastruktur, uddannelse, beskæftigelse, adgang til væsentlige private eller offentlige tjenester, retshåndhævelse, migration, grænsekontrol, retspleje og demokratiske processer.

Rekruttering er et tydeligt eksempel. Hvis et AI-system sorterer ansøgninger, scorer kandidater eller påvirker, hvem der får adgang til en samtale, kan det berøre arbejdsliv og diskrimination. Derfor bør en organisation ikke kun vurdere modellens nøjagtighed, men også datagrundlag, bias, forklarbarhed, menneskelig kontrol og dokumentation. Det ligger tæt på problemfeltet i AI-bias i rekruttering.

Højrisiko kan også opstå gennem integration i produkter. Hvis AI er en sikkerhedskomponent i et reguleret produkt, kan kravene følge produktets funktion og sektorregler. Det er en anden situation end et almindeligt tekstværktøj, der hjælper en medarbejder med at formulere interne noter.

Den svære grænse ligger ofte i systemer, der både hjælper mennesker og påvirker væsentlige beslutninger. Et AI-værktøj, der foreslår prioritering af borgersager, kreditvurderinger, elevstøtte eller kandidatvalg, kan få reel betydning, selv hvis en person formelt træffer den endelige beslutning. Her skal organisationen se på faktisk arbejdsgang og ikke kun på leverandørens produktkategori.

Hvilke krav gælder for højrisiko-systemer?

Højrisiko-systemer må bruges, men de skal opfylde en række krav før og efter markedsføring eller ibrugtagning. Kravene handler om at gøre systemet kontrollerbart, dokumenteret og egnet til det formål, det anvendes til. Det er ikke nok, at systemet virker i en demo eller har høj generel præcision.

• Risikostyring skal være en løbende proces gennem systemets livscyklus.
• Data og datastyring skal støtte formålet og mindske skævheder, fejl og uretmæssige resultater.
• Teknisk dokumentation skal gøre det muligt at vurdere, om systemet overholder kravene.
• Logging skal understøtte sporbarhed, overvågning og efterfølgende kontrol.
• Brugere skal have klare oplysninger om systemets formål, begrænsninger, nøjagtighed, robusthed og cybersikkerhed.
• Menneskeligt tilsyn skal gøre det muligt at forstå, tilsidesætte eller stoppe systemets output, hvor det er relevant.

Kravene viser, at AI Act ikke kun handler om juridiske dokumenter. Den kræver tekniske og organisatoriske kontroller, som skal indbygges i produktudvikling, indkøb, drift og opfølgning. Det kan være testdata, versionsstyring, fejlrapportering, adgangskontrol, leverandørdokumentation, uddannelse og en klar procedure for, hvornår output må bruges.

For organisationer, der anskaffer AI, er leverandørdialogen central. Du skal kunne få oplysninger om formål, begrænsninger, datagrundlag, test, kendte fejl, sikkerhed og menneskeligt tilsyn. Hvis leverandøren ikke kan forklare det, bliver det vanskeligt at bruge systemet i en kontekst, hvor AI Act kræver dokumenteret kontrol.

Hvad betyder reglerne for generelle AI-modeller?

AI Act har et særskilt regelsæt for general-purpose AI models, ofte omtalt som generelle AI-modeller. Det er modeller, der kan bruges til mange forskellige formål og kan indgå som grundlag for andre AI-systemer. Store sprogmodeller, multimodale modeller og generative modeller kan falde i denne kategori, men vurderingen afhænger af lovens definitioner og den konkrete placering på EU-markedet.

Udbydere af generelle AI-modeller skal blandt andet udarbejde teknisk dokumentation, give downstream-udbydere information, så de kan forstå modellens kapaciteter og begrænsninger, have en politik for EU’s ophavsretsregler og offentliggøre et tilstrækkeligt detaljeret resumé af træningsindhold efter AI Office-skabelon. Open source-modeller kan være undtaget fra nogle dokumentationskrav, men ikke fra alle krav, og undtagelsen gælder ikke på samme måde for modeller med systemisk risiko.

Modeller med systemisk risiko får ekstra krav. De skal blandt andet evalueres, testes mod misbrug og uønskede kapaciteter, håndtere systemiske risici, rapportere alvorlige hændelser og sikre et passende cybersikkerhedsniveau. I AI Act bruges blandt andet træningsberegning over en høj tærskel som en indikator for høj-impact-kapaciteter, men Kommissionen kan også udpege modeller ud fra tilsvarende påvirkning eller kapaciteter.

For brugerorganisationer betyder det, at leverandørens modeldokumentation bliver vigtig. Hvis en generel model bygges ind i et højrisiko-system, skal downstream-udbyderen kunne forstå, hvad modellen kan, hvad den ikke kan, og hvilke begrænsninger der følger med. Det er forskellen mellem at købe et generelt AI-værktøj og at bruge det som del af en beslutningsproces med konsekvenser for mennesker.

Hvad betyder gennemsigtighed for chatbots og syntetisk indhold?

AI Act indfører særlige gennemsigtighedskrav for visse AI-systemer, også når de ikke er højrisiko. Hvis et AI-system er beregnet til direkte interaktion med mennesker, skal personer som udgangspunkt informeres om, at de interagerer med et AI-system, medmindre det er tydeligt ud fra sammenhængen. Det er relevant for kundeservice, HR, undervisning, support og offentlige selvbetjeningsløsninger.

Udbydere af AI-systemer, der genererer syntetisk lyd, billede, video eller tekst, skal sikre, at output markeres i et maskinlæsbart format og kan opdages som kunstigt genereret eller manipuleret, så langt det er teknisk muligt. Deployere, der offentliggør deepfakes eller visse AI-genererede tekster om forhold af offentlig interesse, kan også have pligt til at oplyse om, at indholdet er kunstigt genereret eller manipuleret.

Der er undtagelser, blandt andet når AI kun assisterer standardredigering uden væsentligt at ændre indholdets semantik, eller når tekst har gennemgået menneskelig gennemgang og en person eller organisation har redaktionelt ansvar. Undtagelserne ændrer dog ikke den praktiske hovedregel: mennesker skal kunne forstå, hvornår AI spiller en rolle i interaktion eller offentlig information.

Hvis du bruger en chatbot i en organisation, bør transparens ikke reduceres til en lille formulering i bunden af et vindue. Det bør være tydeligt, hvad chatbotten kan, hvad den ikke kan, om svar kontrolleres af mennesker, og hvordan brugeren kan få en anden kanal ved fejl eller følsomme oplysninger. Det overlapper med de spørgsmål, der typisk indgår i lovkrav for AI-chatbots.

Hvad skal organisationer gøre som brugere af AI?

En organisation, der bruger AI under egen myndighed, skal først kortlægge sine konkrete anvendelser. Det bør ikke kun være en liste over leverandører. Kortlægningen skal beskrive formål, berørte personer, datatyper, beslutningens betydning, menneskelig kontrol, integrationer og om systemet bruges internt eller eksternt.

Derefter bør organisationen placere hvert use case i en foreløbig risikokategori. Mange interne produktivitetsværktøjer vil være lav risiko, men det kan ændre sig, hvis output bruges til at prioritere personer, træffe beslutninger, styre adgang eller behandle følsomme oplysninger. Et udkast til en e-mail er normalt mindre kritisk end en automatisk rangering af jobansøgere.

Kravet om AI-literacy betyder, at medarbejdere og andre personer, der arbejder med AI-systemer på organisationens vegne, skal have et tilstrækkeligt niveau af AI-forståelse i forhold til deres rolle, erfaring og systemets kontekst. Det kan være praktisk oplæring i begrænsninger, databeskyttelse, bias, hallucinationer, dokumentation og hvornår output skal kontrolleres.

Indkøb bør også ændres. Kontrakter og leverandørdialog bør kræve oplysninger om formål, databehandling, underleverandører, logning, sikkerhed, modelopdateringer, outputbegrænsninger og support ved hændelser. Hvis en leverandør ændrer systemets formål eller funktion væsentligt, kan risikovurderingen skulle gentages.

Hvordan hænger AI Act sammen med GDPR og dataansvar?

AI Act erstatter ikke GDPR. Hvis et AI-system behandler personoplysninger, skal behandlingen stadig have et lovligt grundlag, være nødvendig, proportionel og opfylde krav om oplysningspligt, sikkerhed, dataminimering og rettigheder. AI Act kan stille ekstra krav til systemets kontrol og gennemsigtighed, men den gør ikke en databehandling lovlig i sig selv.

Det er især relevant ved træningsdata, testdata, logdata og brugerinput. Et AI-system kan være teknisk velfungerende og stadig skabe databeskyttelsesproblemer, hvis data er indsamlet uklart, bruges til et nyt formål eller sendes til en leverandør uden tilstrækkelig aftale og kontrol. Derfor bør vurderingen af GDPR for AI-træningsdata ske sammen med AI Act-vurderingen.

AI Act og GDPR mødes også i praksis ved forklarbarhed, bias og menneskelig kontrol. Hvis et system påvirker personer, skal organisationen kunne forklare formål, datatyper og beslutningslogik på et niveau, der passer til konteksten. Det betyder ikke nødvendigvis fuld adgang til modelkode, men det kræver mere end en generel leverandørpåstand om, at systemet er sikkert.

En enkel tommelfingerregel er at skelne mellem systemkrav og datakrav. AI Act spørger blandt andet, om systemet er risikostyret, dokumenteret, transparent og kontrollerbart. GDPR spørger blandt andet, om personoplysninger behandles lovligt, sikkert og begrænset. I mange AI-projekter skal begge spor være på plads.

Hvem fører tilsyn med AI Act?

EU’s governance-model kombinerer EU-niveau og nationale myndigheder. European AI Office er placeret i Kommissionen og har en særlig rolle ved implementering og tilsyn med de mest kraftfulde generelle AI-modeller. AI Office understøtter også vejledning, kodekser, evalueringer og samordning på tværs af medlemsstater.

Nationale markedsovervågningsmyndigheder skal føre tilsyn med AI-systemer, herunder forbudte praksisser og højrisiko-regler. Medlemsstaterne skal også have notificerende myndigheder, som udpeger og fører tilsyn med de organer, der kan lave tredjeparts-overensstemmelsesvurderinger, hvor det er relevant.

AI Board består af repræsentanter fra medlemsstaterne og skal bidrage til ensartet anvendelse af reglerne. Scientific Panel består af uafhængige eksperter, især med relevans for generelle AI-modeller og systemiske risici. Advisory Forum skal give input fra blandt andet erhvervsliv, civilsamfund og akademiske miljøer.

For en organisation betyder tilsynsmodellen, at ansvar ikke kun placeres hos en fjern EU-myndighed. Nationale myndigheder kan blive centrale ved konkrete systemer, mens Kommissionen og AI Office får særlig betydning for generelle AI-modeller. Dokumentation bør derfor kunne forklares både teknisk, organisatorisk og forvaltningsmæssigt.

Hvilke sanktioner kan følge af manglende efterlevelse?

AI Act har administrative bøder, men sanktioner er ikke det eneste styringsmiddel. Myndigheder kan også kræve oplysninger, undersøge systemer, kræve korrigerende handlinger, begrænse tilgængelighed eller få systemer trukket tilbage. Den praktiske risiko er derfor både økonomisk, operationel og omdømmemæssig.

For overtrædelse af forbudte AI-praksisser angiver forordningen bøder på op til 35 millioner euro eller op til 7 procent af en virksomheds samlede globale årlige omsætning i det foregående regnskabsår, alt efter hvad der er højest. For flere andre centrale overtrædelser, herunder pligter for udbydere, deployere og transparenskrav, er loftet op til 15 millioner euro eller 3 procent.

For små og mellemstore virksomheder, inklusive startups, skal bøden ligge inden for det laveste af det faste beløb og procentloftet. Myndigheder skal også tage konkrete omstændigheder i betragtning, når de vurderer, om der skal pålægges en bøde og hvor stor den skal være.

Bøderne viser, at AI Act er bindende regulering, men de bør ikke være den eneste grund til at arbejde struktureret med AI. Et bedre styringsmål er, at organisationen kan dokumentere sine AI-systemer, forklare risikovurderingen, reagere på fejl og vise, hvem der har ansvar for beslutninger, data og opfølgning.

Hvordan kan du lave en første risikovurdering?

En første risikovurdering behøver ikke begynde med en stor compliance-model. Den kan begynde med en struktureret gennemgang af hvert AI-use case. Formålet er at opdage de anvendelser, der kræver dybere vurdering, før systemet bliver indbygget i drift, kontrakter og arbejdsgange.

1. Beskriv systemets formål og den beslutning eller handling, det påvirker.
2. Angiv om organisationen er udbyder, bruger, importør, distributør eller downstream-udbyder.
3. Identificer de personer eller grupper, der kan blive påvirket af outputtet.
4. Vurder om anvendelsen rammer forbudte praksisser, højrisiko-områder eller gennemsigtighedskrav.
5. Beskriv datatyper, datakilder, logning og eventuel behandling af personoplysninger.
6. Kontrollér om mennesker kan forstå, tilsidesætte, afbryde eller rette systemets output.
7. Indhent leverandørdokumentation om formål, begrænsninger, test, sikkerhed og modelopdateringer.
8. Beslut hvem der ejer risikovurdering, brugeroplæring, driftsovervågning og hændelsesrapportering.

Denne rækkefølge gør AI Act mere håndterbar. Den flytter fokus fra abstrakte spørgsmål om “AI generelt” til konkrete arbejdsgange, data og beslutninger. Den hjælper også med at opdage shadow AI, hvor medarbejdere bruger værktøjer uden fælles kontrol, dokumentation eller aftaler.

Hvis et system påvirker mennesker væsentligt, eller hvis leverandøren ikke kan dokumentere centrale forhold, bør projektet ikke behandles som almindelig softwareanskaffelse. Det kræver en særskilt vurdering af risiko, databeskyttelse, sikkerhed, ansvar og menneskelig kontrol, før systemet bruges i praksis.

Hvilke kilder ligger til grund?

De vigtigste kilder er den officielle AI Act-forordning i EUR-Lex, Kommissionens samlede AI Act-side, Kommissionens retningslinjer om forbudte AI-praksisser, siden om GPAI-kodeksen og Kommissionens gennemgang af governance og håndhævelse af AI Act.