Hvad er syntetiske data i maskinlæring?

Syntetiske data i maskinlæring er kunstigt genererede data, der efterligner relevante mønstre i rigtige data. De bruges til træning, test og simulering, når rigtige data er dyre, følsomme, sjældne eller skævt fordelt, men de skal altid valideres mod formålet.

Hvad betyder syntetiske data i praksis?

Syntetiske data er ikke blot tilfældige tal eller opdigtede eksempler. De er data, der er skabt med regler, simuleringer, statistiske modeller eller generative AI-modeller for at ligne en bestemt type virkelige observationer. I maskinlæring betyder det, at datasættet skal bevare de mønstre, en model skal lære af, uden nødvendigvis at kopiere konkrete personer, hændelser eller målinger.

Et syntetisk datasæt kan for eksempel ligne kundetransaktioner, sensormålinger, hospitalsforløb, billeder af defekte komponenter eller samtaler med bestemte intentioner. Pointen er ikke, at alle rækker eller billeder er virkelige. Pointen er, at datasættet kan bruges til en teknisk opgave, fordi det repræsenterer relevante variationer, sammenhænge og begrænsninger.

I praksis bør syntetiske data forstås som et værktøj i databehandlingen, ikke som en fuld erstatning for rigtige data. Hvis du arbejder med machine learning og deep learning, er spørgsmålet derfor ikke kun, om data ser realistiske ud, men om de forbedrer den konkrete models evne til at generalisere.

Hvordan bruges syntetiske data til træning og test?

Syntetiske data bruges typisk på tre måder: til at træne modeller, til at teste systemer og til at udvikle arbejdsgange uden at udstille følsomme data. I træning kan de supplere et datasæt, hvor bestemte tilfælde er sjældne. I test kan de skabe kontrollerede scenarier, som er svære at samle i virkeligheden. I udvikling kan de gøre det muligt at bygge prototyper, før adgang til rigtige data er afklaret.

Et klassisk eksempel er ubalancerede datasæt. Hvis en model skal opdage fejl, svindel eller sikkerhedshændelser, kan de vigtigste tilfælde være netop dem, der findes færrest af. Syntetiske data kan bruges til at skabe flere realistiske variationer af disse sjældne tilfælde. Det kan gøre modellen bedre til at genkende mønstre, men kun hvis de syntetiske eksempler afspejler den virkelige variation.

Syntetiske data kan også bruges i softwaretest. Et team kan opbygge et datasæt, der ligner produktionsdata i format, størrelse og relationer, men som ikke indeholder faktiske kundedata. Det gør det lettere at teste pipelines, dashboards og modeller. I den sammenhæng hænger syntetiske data tæt sammen med data-processering, fordi kvaliteten ofte afhænger af hele kæden fra rådata til modelinput.

Hvordan skabes syntetiske data?

Der findes flere metoder til at skabe syntetiske data. Den enkleste metode er regelbaseret generering, hvor faste regler skaber realistiske værdier. Det kan være aldersintervaller, produktkategorier, transaktionsbeløb eller tidsstempler. Metoden er let at styre, men kan overse skjulte sammenhænge i rigtige data.

En anden metode er simulation. Her bygges en model af det system, data skal beskrive. Det kan være trafik, lagerflow, energiforbrug, robotbevægelser eller sensordata. Simulation er stærk, når man kender de underliggende mekanismer, men svagere hvis virkeligheden har mange sociale, økonomiske eller tekniske forhold, som ikke er modelleret.

En tredje metode er generativ modellering. Her trænes en model på rigtige data og lærer at skabe nye eksempler med lignende statistiske egenskaber. Det kan være tabulære data, tekst, billeder, lyd eller tidsserier. Generative metoder kan bevare komplekse mønstre, men de kræver særlig kontrol, fordi modellen kan videreføre bias, kopiere følsomme mønstre eller skabe data, der ser plausible ud uden at være nyttige.

Hvilke typer syntetiske data findes der?

Man skelner ofte mellem fuldt syntetiske og delvist syntetiske data. Fuldt syntetiske data betyder, at alle værdier i datasættet er genereret. Delvist syntetiske data betyder, at kun nogle felter er erstattet, mens andre felter stadig kommer fra rigtige observationer. Den skelnen er praktisk, fordi risiko og anvendelighed afhænger af, hvilke dele af datasættet der er syntetiske.

Syntetiske data kan også opdeles efter format. Tabulære data bruges ofte i finans, sundhed, HR, forsikring og drift. Billeddata bruges i computer vision, for eksempel til kvalitetskontrol eller genkendelse af objekter. Tekstdata kan bruges til klassifikation, dialogtest eller træning af sproglige komponenter. Tidsserier bruges i sensorer, vedligeholdelse, energi og logistik.

Hvornår kan syntetiske data være bedre end flere rigtige data?

Syntetiske data kan være nyttige, når flere rigtige data er vanskelige at indsamle eller ikke må bruges frit. Det gælder især sjældne hændelser, følsomme oplysninger, dyre målinger, farlige situationer og testscenarier, hvor man skal kende facit. Hvis dataindsamling kræver lang tid eller store omkostninger, kan syntetiske data give et kontrolleret supplement.

De kan også være bedre end rå, rigtige data i tidlige udviklingsfaser. Et team kan teste format, skalerbarhed, modellogik og fejlbehandling, før der åbnes for produktionsdata. Det mindsker risikoen for, at følsomme data bruges unødigt i eksperimenter. Samtidig kan syntetiske data gøre det lettere at reproducere test, fordi scenarier kan skabes igen med kendte parametre.

Fordelen forsvinder dog, hvis syntetiske data bruges til at skjule, at de rigtige data er dårlige, skæve eller utilstrækkelige. Et syntetisk datasæt kan forstørre et problem, hvis det bygger på et skævt grundlag. Det kan også give en model kunstigt gode testresultater, hvis testdata ligner generatorens antagelser mere end den virkelige verden.

Hvad kan syntetiske data ikke løse?

Syntetiske data kan ikke trylle manglende viden frem. Hvis originaldata ikke indeholder bestemte grupper, ekstreme tilfælde eller vigtige årsagssammenhænge, vil genererede data ofte mangle det samme. De kan skabe variation, men ikke nødvendigvis sand variation. Derfor bør syntetiske data ikke bruges som eneste kilde til beslutninger, der påvirker mennesker eller kritiske processer.

De kan heller ikke automatisk løse problemer med datakvalitet. Forkerte labels, uklare definitioner, målefejl og inkonsistente processer kan blive videreført i de syntetiske data. I store organisationer hænger dette sammen med big data: størrelsen på datasættet er mindre vigtig end datagrundlagets relevans, dokumentation og repræsentativitet.

Endelig kan syntetiske data ikke erstatte domæneviden. En model kan lære statistiske mønstre, men nogen skal stadig afgøre, om mønstrene giver mening. Hvis syntetiske lægedata, energidata eller finansdata ikke vurderes af personer med faglig indsigt, kan datasættet se overbevisende ud og stadig være teknisk misvisende.

Hvordan vurderer man kvalitet og realisme?

Kvalitet i syntetiske data handler om mere end visuel eller sproglig realisme. Et datasæt kan se rigtigt ud uden at være nyttigt til maskinlæring. Vurderingen bør derfor koble tre mål: statistisk lighed, modelnytte og privatlivsrisiko. Disse mål kan trække i forskellige retninger.

Statistisk lighed kan måles ved at sammenligne fordelinger, korrelationer, marginaler og afhængigheder mellem syntetiske og rigtige data. Modelnytte kan måles ved at træne på syntetiske data og teste på rigtige holdout-data, eller ved at sammenligne resultater fra modeller trænet på forskellige datakilder. Privatlivsrisiko kan vurderes ved at teste, om syntetiske poster ligger for tæt på konkrete poster i originaldata.

En praktisk kvalitetskontrol kan omfatte:

• Adskil træningsdata, testdata og holdout-data, så generatoren ikke vurderes på de samme data, den er tilpasset til.
• Mål om sjældne klasser, outliers og randtilfælde bevares, når de er relevante for opgaven.
• Test om modeller trænet på syntetiske data virker på rigtige data, ikke kun på nye syntetiske eksempler.
• Dokumenter hvilke mønstre generatoren er designet til at bevare, og hvilke mønstre der bevidst er fjernet.

Forskning i fidelity og privacy for syntetiske datasæt fremhæver netop behovet for at vurdere begge sider systematisk. Et datasæt med høj statistisk lighed kan have høj nytte, men også højere risiko, hvis det ligger for tæt på enkeltposter fra originaldata.

Hvordan påvirker syntetiske data bias?

Syntetiske data kan både reducere og forstærke bias. De kan reducere bias, hvis de bruges til at skabe bedre dækning af underrepræsenterede situationer, for eksempel flere fejltyper, flere dialekter, flere produktvarianter eller flere sjældne hændelser. De kan forstærke bias, hvis generatoren lærer skævheder fra originaldata og gengiver dem i større skala.

Problemet bliver tydeligt i beslutningssystemer. Hvis et rekrutteringsdatasæt historisk afspejler skæv udvælgelse, kan syntetiske data bevare de samme mønstre. Det kan få modellen til at fremstå mere datarig uden at være mere retfærdig. Derfor bør syntetiske data vurderes sammen med AI-bias i rekruttering og andre domænespecifikke risici.

Et godt bias-tjek ser på både input og output. Inputtjek handler om repræsentation i data. Outputtjek handler om, hvordan modellen klarer sig på forskellige grupper, scenarier og randtilfælde. Hvis syntetiske data kun forbedrer gennemsnittet, men gør modellen dårligere for små grupper, er de ikke en teknisk forbedring i praksis.

Er syntetiske data anonyme?

Syntetiske data er ikke automatisk anonyme. Hvis de er skabt ud fra personoplysninger, kan generationen i sig selv kræve behandling af personoplysninger. Og hvis syntetiske poster afslører mønstre, der kan knyttes tilbage til personer, grupper eller sjældne tilfælde, kan der stadig være re-identifikationsrisiko.

Den britiske databeskyttelsesmyndighed ICO beskriver syntetiske data som en mulig privacy-enhancing teknologi, men fremhæver samtidig, at anonymitet afhænger af, om information fra de oprindelige persondata kan udledes fra det syntetiske datasæt. ICO nævner blandt andet model inversion, membership inference og attribute disclosure som risici, der kan øge muligheden for identifikation.

Den praktiske konklusion er, at anonymitet skal testes og dokumenteres. Det er ikke nok at sige, at data er syntetiske. Du skal kunne forklare, hvordan datasættet er genereret, hvilke originaldata der blev brugt, hvor tæt syntetiske poster ligger på originalposter, og hvilke risikobegrænsninger der er valgt.

Hvordan hænger syntetiske data sammen med differential privacy?

Differential privacy er en matematisk tilgang, hvor støj tilføjes eller begrænsninger indbygges, så oplysninger om enkeltpersoner bliver sværere at udlede. Syntetiske data kan kombineres med differential privacy, men de to begreber er ikke det samme. Et syntetisk datasæt har ikke automatisk en formel privacy-garanti.

Kombinationen kan være nyttig, når data skal deles bredere, og når risikoen ved at gengive sjældne eller identificerbare mønstre er høj. Til gengæld kan mere støj reducere nytten. Hvis støjen er for lille, kan risikoen være for høj. Hvis støjen er for stor, kan modellen lære for lidt. Det er en konkret afvejning, ikke en standardindstilling.

Forskning fra 2025 om træning med syntetiske data advarer om, at metoder uden formelle differential privacy-garantier kan give falsk tryghed. Det betyder ikke, at syntetiske data er uegnede. Det betyder, at privacy-påstande skal underbygges med test, angivne antagelser og en vurdering af, hvordan data skal bruges og deles.

Hvilken risiko giver model collapse?

Model collapse er en særlig risiko, når generative modeller trænes rekursivt på data, der selv er genereret af tidligere modeller. Nature-artiklen fra 2024 om model collapse viser, at ukritisk brug af modelgenereret indhold i træning kan få modeller til at miste dele af den oprindelige datadistribution, især sjældne mønstre og randtilfælde.

Det betyder ikke, at alle syntetiske data ødelægger modeller. Risikoen handler især om ukontrolleret, gentagen brug af modeloutput som træningsdata uden tilstrækkelig forankring i rigtige, kuraterede data. Hvis syntetiske data bruges som supplement, mærkes tydeligt og testes mod rigtige holdout-data, kan risikoen styres bedre.

For maskinlæring er den konkrete læring, at syntetiske data bør have provenance. Du bør vide, hvordan data er skabt, hvilken model eller simulation der har genereret dem, hvilke rigtige data der indgik, og om datasættet bliver blandet med modeloutput fra tidligere generationer. Uden sådan sporbarhed kan fejl og ensartethed ophobes over tid.

Hvordan bør en organisation bruge syntetiske data ansvarligt?

En ansvarlig brug af syntetiske data begynder med formålet. Skal data bruges til modeltræning, systemtest, deling, demoer, stresstest eller dokumentation? Hvert formål kræver forskellige kontroller. Et datasæt, der er fint til at teste et dashboard, er ikke nødvendigvis egnet til at træne en model, der påvirker borgere, patienter, kunder eller medarbejdere.

En enkel beslutningsproces kan se sådan ud:

1. Definer den konkrete opgave og hvilke mønstre data skal bevare.
2. Afklar om originaldata indeholder personoplysninger, følsomme oplysninger eller forretningskritiske mønstre.
3. Vælg en genereringsmetode, der passer til datatype, risiko og formål.
4. Test statistisk lighed, modelnytte, bias og privatlivsrisiko hver for sig.
5. Dokumenter datakilde, generator, parametre, begrænsninger og godkendt anvendelse.

Hvis formålet er datadeling eller samarbejde, kan syntetiske data også sammenlignes med andre teknikker som adgangskontrol, anonymisering, pseudonymisering og federated learning. Syntetiske data er stærkest, når de indgår i en kontrolleret datapraksis med tydelige grænser, ikke når de bruges som et generelt fripas til at dele data.

Hvilke kilder ligger til grund?

Artiklen bygger især på ICOs vejledning om syntetiske data som privacy-enhancing teknologi, Nature-artiklen om model collapse ved rekursivt genererede data, forskning om privacy ved træning på syntetiske data, en metode til fidelity- og privacy-vurdering og studiet Synthetic Data — Anonymisation Groundhog Day.