Hvordan gælder GDPR for AI-træningsdata?

GDPR gælder for AI-træningsdata, når datasættet indeholder oplysninger om identificerede eller identificerbare personer. Det betyder, at indsamling, filtrering, annotering, træning, finjustering, test og senere brug af modellen skal have et lovligt grundlag, et klart formål, dataminimering, gennemsigtighed og dokumenterbare sikkerhedsforanstaltninger.

Hvornår er AI-træningsdata omfattet af GDPR?

AI-træningsdata er omfattet af GDPR, når dataene indeholder personoplysninger, eller når en del af arbejdsprocessen behandler personoplysninger. Det gælder ikke kun navne, e-mailadresser og CPR-lignende identifikatorer. Det kan også være billeder af personer, stemmer, lokationsdata, brugeradfærd, online-id’er, helbredsoplysninger, medarbejdernoter, kundedialoger eller tekst, der indirekte kan forbindes med en fysisk person.

GDPR ser på behandling bredt. Indsamling, rensning, deduplikering, mærkning, lagring, sammenstilling, modeltræning, evaluering og sletning kan alle være behandling. Hvis en organisation bruger persondata i et træningspipeline, er det derfor ikke nok at se på den færdige model. Du skal også kunne forklare, hvordan data blev hentet, hvorfor de blev brugt, hvem der havde adgang, hvor længe de blev opbevaret, og hvordan rettigheder kan håndteres.

Hvis datasættet reelt er anonymt, falder det uden for GDPR. Men anonymitet er ikke det samme som pseudonymisering, hashing eller fjernelse af åbenlyse navne. Hvis en person stadig kan identificeres med rimelige midler, direkte eller indirekte, er der fortsat tale om personoplysninger.

Hvilke GDPR-principper styrer træning af AI?

De vigtigste principper er lovlighed, rimelighed, gennemsigtighed, formålsbegrænsning, dataminimering, rigtighed, opbevaringsbegrænsning, integritet, fortrolighed og ansvarlighed. I AI-træning bliver principperne praktiske kontrolspørgsmål: Hvilke data er nødvendige? Hvilket formål trænes modellen til? Hvilke data kan fjernes før træning? Hvilke sikkerhedsforanstaltninger beskytter data og model?

Formålsbegrænsning betyder, at data ikke frit kan flyttes fra ét formål til et andet, blot fordi de teknisk kan bruges i en model. Kundesupportdata, HR-data, sundhedsdata og webdata kan have meget forskellige oprindelige formål og forventninger. Hvis data senere bruges til modeltræning, skal den nye brug passe med det oprindelige formål eller have et særskilt grundlag.

Dataminimering er særligt vanskelig i maskinlæring, fordi store datamængder kan forbedre generalisering. GDPR kræver ikke, at en model trænes på mindst mulige datasæt i teknisk forstand, men at personoplysninger begrænses til det, der er nødvendigt for det dokumenterede formål. Det kan betyde filtrering af private felter, fjernelse af sjældne identifikatorer, brug af syntetiske eller anonymiserede data, lokal træning eller snævrere evalueringsdata.

Hvilket behandlingsgrundlag kan bruges til AI-træningsdata?

Der skal være et behandlingsgrundlag efter GDPR artikel 6, når personoplysninger bruges til AI-træning. De mest relevante muligheder er typisk samtykke, kontrakt, retlig forpligtelse, offentlig opgave eller legitim interesse. Valget afhænger af dataenes oprindelse, formålet med modellen, relationen til de registrerede og de risici, behandlingen skaber.

Samtykke kan være relevant, hvis brugeren reelt kan vælge frit, informeret og specifikt. Det er sjældent en enkel løsning for store historiske datasæt, fordi samtykke skal kunne dokumenteres og trækkes tilbage. Kontrakt kan kun bruges, når træningen er nødvendig for at levere den konkrete aftalte tjeneste, ikke blot fordi træningen er forretningsmæssigt nyttig.

Legitim interesse bliver ofte nævnt ved AI-udvikling, men det er ikke et standardgrundlag. EDPB beskriver en tredelt vurdering: interessen skal være lovlig, klar og aktuel; behandlingen skal være nødvendig; og organisationens interesse må ikke overtrumfes af de registreredes rettigheder og friheder. I praksis skal vurderingen dokumentere mindre indgribende alternativer, forventninger hos de registrerede, datatyper, sikkerhedstiltag og mulighed for indsigelse.

Hvordan påvirker offentligt tilgængelige data vurderingen?

Offentligt tilgængelige data er ikke automatisk frie træningsdata. Hvis en hjemmeside, et socialt medie, et forum, en jobprofil eller et offentligt dokument indeholder oplysninger om personer, kan GDPR stadig gælde. Det afgørende er ikke kun, om data kunne ses offentligt, men om brugen til AI-træning er lovlig, rimelig, gennemsigtig og forenelig med det oprindelige formål.

Ved web scraping af AI-træningsdata opstår der ofte et spænd mellem skala og gennemsigtighed. GDPR artikel 14 kræver som udgangspunkt information, når data ikke er indsamlet direkte fra personen. Undtagelsen for umulighed eller uforholdsmæssig indsats kan ikke bruges mekanisk. EDPB fremhæver, at undtagelsen skal vurderes snævert, og at offentligt tilgængelige oplysninger stadig kan indgå i en konkret afvejning af rimelige forventninger.

Et praktisk kontrolpunkt er at skelne mellem data, der blot er tilgængelige, og data, hvor personen med rimelighed kan forvente senere AI-træning. Et offentligt blogindlæg, en produktanmeldelse, et CV, et forumindlæg og en myndighedsside kan have meget forskellige kontekster. Jo mere privat, følsom, uventet eller skaleret brugen er, desto stærkere bliver kravet om dokumenteret vurdering og beskyttelse.

Hvornår kræver træningsdata særlig beskyttelse?

Særlige kategorier af personoplysninger kræver ekstra beskyttelse. Det omfatter blandt andet oplysninger om helbred, biometriske data til entydig identifikation, genetiske data, politiske holdninger, religion, fagforeningsforhold, seksuelle forhold og seksuel orientering. Hvis sådanne oplysninger indgår i træningsdata, er et almindeligt artikel 6-grundlag ikke nok. Der skal også være en undtagelse efter artikel 9.

Særlige kategorier kan dukke op indirekte. Et datasæt med tekst, billeder eller lyd kan indeholde helbredsreferencer, religiøse udsagn, ansigter, stemmer, handicapoplysninger eller politiske markører, selv om datasættet ikke er købt som følsomme data. Det er derfor risikabelt kun at vurdere datakilden ud fra dens navn. Datasættets faktiske indhold og modelens forventede brug skal undersøges.

EU’s AI Act ændrer ikke grundreglen om databeskyttelse. For højrisko-AI-systemer giver AI Act artikel 10(5) en snæver mulighed for at behandle særlige kategorier, når det er strengt nødvendigt for bias detection og correction, og når anonymiserede eller syntetiske data ikke kan løse opgaven. Det er en betinget undtagelse, ikke en generel tilladelse til at bruge følsomme data i træning.

Kan en trænet AI-model være anonym?

En trænet model kan ikke automatisk behandles som anonym, bare fordi de oprindelige datapunkter er omdannet til vægte, parametre eller embeddings. EDPB’s udtalelse om AI-modeller fra 17. december 2024 understreger, at modeller trænet på personoplysninger skal vurderes konkret. Spørgsmålet er, om personoplysninger kan udtrækkes, fremkaldes eller udledes med midler, der med rimelighed kan bruges.

Risikoen kan komme fra flere retninger. En model kan huske sjældne træningseksempler, gengive tekstbidder, afsløre medlemskab i et datasæt, muliggøre model inversion eller lække persondata gennem et API. Risikoen afhænger af datasættets karakter, træningsmetoden, modelens størrelse, adgangsformen, sikkerhedsforanstaltninger og den teknologiske udvikling.

Anonymitetsvurderingen bør derfor ikke kun være en erklæring. Den bør bygge på dokumentation: dataminimering før træning, fjernelse af identifikatorer, test for memorering, begrænset adgang, rate limiting, outputfiltre, kontraktuelle begrænsninger, sårbarhedstest og vurdering af, om modellen stadig kan give oplysninger om konkrete personer. Pseudonymisering kan reducere risiko, men den fjerner ikke nødvendigvis GDPR’s anvendelse.

Hvordan håndteres rettigheder i træningsdata?

Registreredes rettigheder gælder også i AI-sammenhænge, når der behandles personoplysninger. Det kan omfatte ret til information, adgang, rettelse, sletning, begrænsning, dataportabilitet i relevante tilfælde og indsigelse. Ved legitim interesse og offentlig opgave har personen ret til at gøre indsigelse af grunde, der vedrører personens særlige situation.

Rettigheder er teknisk sværere, når data er brugt til modeltræning. En sletteanmodning kan være enkel for et rådatasæt, men vanskeligere for data, der allerede har påvirket en model. Det ændrer ikke behovet for en plan. Organisationen bør vide, hvilke datasæt der blev brugt, hvilke versioner de indgik i, hvor de findes, hvilke downstream-systemer der bruger modellen, og hvilke foranstaltninger der kan iværksættes ved rettighedsanmodninger.

Et brugbart designvalg er at adskille rådata, træningsudtræk, annotationsdata, evalueringsdata og modelversioner. Når sporbarheden er tydelig, bliver det lettere at håndtere adgang, rettelse, sletning og begrænsning uden at overdrive, hvad der teknisk kan fjernes fra en allerede trænet model.

Hvilke risici skal vurderes før træning?

En risikovurdering bør dække både datasættet, træningsprocessen og den forventede brug af modellen. Centrale risici er identifikation, uventet genbrug, bias, diskrimination, dataudtræk, lækage gennem grænseflader, usikre tredjepartsleverandører, utilstrækkelig sletning, manglende gennemsigtighed og uklart ansvar mellem dataansvarlig og databehandler.

En DPIA, altså en konsekvensanalyse om databeskyttelse, er relevant, når behandlingen sandsynligvis medfører høj risiko. GDPR artikel 35 nævner blandt andet ny teknologi, omfattende automatiseret evaluering eller profilering, stor skala af særlige kategorier og systematisk overvågning af offentligt tilgængelige områder. Mange AI-træningsprojekter vil derfor i praksis skulle screenes for DPIA-pligt.

Risikoen ændrer sig også efter træning. Når en model stilles til rådighed via et produkt, et internt værktøj eller en API, kan nye personoplysninger blive behandlet i brugen. Derfor bør vurderingen adskille udviklingsfasen fra driftsfasen. databeskyttelse ved AI-API’er handler blandt andet om logning, datalagring, adgangsstyring og leverandørens brug af indsendte data.

Hvordan dokumenteres lovlig AI-træning?

Dokumentationen bør vise sammenhængen mellem formål, datakilder, datatyper, behandlingsgrundlag, minimering, sikkerhed, rettigheder, leverandører og modelversioner. En løs beskrivelse af, at data bruges til at forbedre AI, er normalt for bred. Formålet bør være konkret nok til at forklare, hvilken model der udvikles, hvilke funktioner den skal understøtte, og hvorfor netop disse personoplysninger er nødvendige.

En enkel dokumentationsmodel kan bestå af fem lag: datakatalog, formåls- og grundlagsvurdering, risikovurdering, tekniske kontroller og beslutningslog. Datakataloget viser oprindelse og kategorier. Grundlagsvurderingen viser artikel 6 og eventuelt artikel 9. Risikovurderingen viser konsekvenser for personer. De tekniske kontroller viser filtrering, adgang, kryptering, retention og test. Beslutningsloggen viser, hvem der godkendte hvad og hvornår.

Dokumentationen bør også beskrive fravalg. Hvis syntetiske data, anonymisering, mindre datasæt, lokal træning eller feature-reduktion blev vurderet, men ikke valgt, bør begrundelsen være tydelig. Det gør nødvendighedsvurderingen mere troværdig og passer med AI governance, hvor ansvar og kontrolpunkter skal kunne efterprøves.

Hvad betyder GDPR for køb af eksterne træningsdata?

Køb eller licens af et datasæt flytter ikke automatisk GDPR-ansvaret. Organisationen skal stadig kunne vurdere, om datasættet indeholder personoplysninger, hvordan de er indsamlet, hvilket behandlingsgrundlag leverandøren påstår, hvilke begrænsninger der følger med, og om brugen til den planlagte model er forenelig med de registreredes rettigheder.

Ved eksterne datasæt er dataproveniens et centralt kontrolpunkt. Der bør være oplysninger om kilder, indsamlingstidspunkt, filtrering, samtykke eller andet grundlag, opt-out-mekanismer, følsomme kategorier, børn, geografisk dækning, licensvilkår, sletteprocedurer og kendte begrænsninger. Hvis leverandøren ikke kan forklare dataenes oprindelse, bliver den efterfølgende compliancevurdering svag.

Kontrakten bør ikke kun beskrive adgang til data. Den bør også fastlægge roller, sikkerhed, auditmuligheder, underleverandører, sletning, rettighedsanmodninger, brugsbegrænsninger og håndtering af fejl i datasættet. For træningsdata med høj risiko er det ofte nødvendigt at supplere kontrakten med teknisk test og stikprøver.

Hvordan spiller GDPR sammen med EU AI Act?

GDPR og EU AI Act regulerer forskellige, men overlappende spørgsmål. GDPR handler om behandling af personoplysninger. AI Act fastsætter harmoniserede regler for AI-systemer, særligt forbudte anvendelser, højrisko-systemer, gennemsigtighed og generelle AI-modelkrav. Hvis et AI-system behandler personoplysninger, gælder GDPR stadig ved siden af AI Act.

AI Act siger udtrykkeligt, at den ikke skal påvirke anvendelsen af eksisterende EU-regler om behandling af personoplysninger. Det betyder, at en model ikke bliver GDPR-lovlig alene ved at opfylde AI Act-krav. Omvendt betyder GDPR-overholdelse heller ikke automatisk, at et system opfylder AI Act, hvis systemet falder ind under højrisko-regler eller særlige transparenskrav.

For organisationer er den praktiske konsekvens, at databeskyttelse bør bygges sammen med AI-risikostyring. EU AI Act kan kræve teknisk dokumentation, data governance og risikostyring, mens GDPR kræver behandlingsgrundlag, gennemsigtighed, dataminimering, rettigheder og sikkerhed. Overlap bør bruges til at samle dokumentation i stedet for at lave to isolerede kontrolspor.

Hvilken praktisk proces kan en organisation følge?

En robust proces begynder med at afgøre, om træningsdata indeholder personoplysninger. Hvis ja, bør næste trin være formål, rollefordeling og behandlingsgrundlag. Først derefter giver det mening at vurdere datamængde, filtrering, anonymisering, særlige kategorier, rettighedshåndtering, leverandører, sikkerhed, modeltest og behov for DPIA.

1. Beskriv modelens formål, forventede brug og brugergrupper.
2. Kortlæg datakilder, persondatatyper, følsomme kategorier og dataproveniens.
3. Vælg og dokumentér behandlingsgrundlag for hver relevant behandlingsaktivitet.
4. Reducer data før træning, og test om anonymisering eller syntetiske data kan bruges.
5. Fastlæg retention, adgangsstyring, kryptering, logging og leverandørkontrol.
6. Planlæg rettighedsanmodninger, indsigelser, sletning og modelversionering.
7. Gennemfør DPIA-screening og en fuld DPIA, hvis risikoen kræver det.

Processen bør gentages, når modellen får nye datakilder, nye anvendelser eller nye integrationspunkter. En model, der oprindeligt blev trænet til intern tekstklassifikation, kan få en anden risikoprofil, hvis den senere bruges til beslutningsstøtte, kundevendte svar eller automatiseret prioritering af personer. Sammenhængen mellem generativ AI og datafortrolighed er derfor en løbende driftsopgave, ikke kun en før-lanceringstest.

Hvilke kilder ligger til grund?

Artiklen bygger især på GDPR-forordningen på EUR-Lex, navnlig artikel 2, 4, 5, 6, 9, 14, 21 og 35. Den bygger også på EDPB’s Opinion 28/2024 om AI-modeller og persondata, EDPB’s retningslinjer om legitim interesse og EU AI Act på EUR-Lex.