AI-vandmærkning med SynthID er en metode til at lægge et skjult, maskinlæsbart signal i AI-genereret tekst, billeder, lyd eller video, så indhold senere kan genkendes som skabt eller ændret med bestemte AI-systemer. Det er et sporbarhedsværktøj, ikke et fuldt bevis for ægthed eller manipulation.
AI-vandmærkning med SynthID er et skjult, maskinlæsbart spor i AI-genereret tekst, billeder, lyd eller video. Det kan hjælpe med at identificere indhold fra bestemte AI-systemer, men det er ikke et fuldt bevis for sandhed, ægthed eller lovlig brug.
Hvad betyder AI-vandmærkning i praksis?
AI-vandmærkning betyder, at et system tilføjer et teknisk spor til indhold, mens indholdet bliver genereret eller bearbejdet. Sporet kan være usynligt i et billede, uhørligt i lyd, skjult i statistiske mønstre i tekst eller indlejret som metadata. Formålet er at gøre det lettere at undersøge, om indholdet kommer fra et AI-system.
Vandmærkning adskiller sig fra en synlig label. En synlig label fortæller læseren eller seeren, at indholdet er AI-genereret. Et digitalt vandmærke er derimod beregnet til maskinel kontrol. Det kan bruges af en detektor, en platform, et mediehus eller en organisation, der vil kontrollere et stykke indhold senere i kæden.
Den praktiske værdi ligger i sporbarhed. Hvis du modtager et billede, en video eller en tekst, kan et vandmærke give et teknisk signal om oprindelse. Det samme signal siger dog ikke, om indholdet er korrekt, lovligt, rimeligt brugt eller ufarligt. Det skal vurderes med almindelig kildekritik, kontekst og ansvarlig redaktionel kontrol.
Hvad er SynthID?
SynthID er Google DeepMinds samlede navn for en række vandmærkningsteknologier til AI-genereret og AI-ændret indhold. Ifølge Google DeepMind kan SynthID bruges til billeder, video, lyd og tekst, og vandmærkerne er designet til at være usynlige eller uhørlige for mennesker, men målbare for SynthIDs detektionsteknologi.
SynthID er derfor ikke én enkelt filtype eller ét mærke i hjørnet af et billede. Det er en familie af metoder, der tilpasses forskellige indholdstyper. Et billede giver andre tekniske muligheder end tekst, og en lydfil giver andre muligheder end en video. Fællespunktet er, at signalet lægges ind, så det kan genfindes senere.
Begrebet er især relevant, fordi generativ AI gør det lettere at producere overbevisende tekst, billeder, lyd og video i stor skala. Når indhold kan ligne noget menneskeskabt eller dokumentarisk, bliver tekniske spor et supplement til almindelige vurderinger af kilde, afsender og kontekst.
Hvordan fungerer SynthID på billeder og video?
På billeder og video lægger SynthID et usynligt digitalt vandmærke ind i selve det visuelle indhold. Google DeepMind beskriver metoden som et signal, der ikke ændrer den oplevede billed- eller videokvalitet, men som kan detekteres senere. Vandmærket tilføjes, når indholdet bliver skabt eller ændret med understøttede Google AI-værktøjer.
Den visuelle version er udviklet til at tåle almindelige ændringer, for eksempel beskæring, filtre, ændring af farver, ændret billedfrekvens og tabsgivende komprimering. Det betyder ikke, at signalet er uforgængeligt. Kraftig manipulation, gentagen regenerering, skærmoptagelse i dårlig kvalitet eller målrettede forsøg på at ødelægge signalet kan gøre detektion vanskeligere.
For video er udfordringen større end for enkeltbilleder, fordi indholdet består af mange frames og ofte komprimeres hårdt. En robust løsning skal derfor kunne håndtere ændringer over tid, ikke kun et enkelt billede. Det er en af grundene til, at vandmærkning bør ses som et teknisk bevisbidrag, ikke som en selvstændig afgørelse.
Hvordan fungerer SynthID på tekst?
Tekstvandmærkning fungerer anderledes end visuel vandmærkning, fordi tekst ikke har skjulte pixels eller lydfrekvenser. SynthID-Text ændrer i stedet den måde, en sprogmodel vælger næste token på under generering. Små, kontrollerede ændringer i sandsynlighedsfordelingen kan skabe et statistisk mønster, som en detektor senere kan måle.
Den tekniske idé er, at læseren ikke skal kunne mærke forskel på den vandmærkede tekst og almindelig modeltekst. Nature-artiklen om SynthID-Text beskriver metoden som en ændring af samplingprocessen, ikke af selve modeltræningen. Detektion kan foretages uden adgang til den underliggende model, hvis man har den rette detektionsopsætning.
Tekstvandmærkning virker bedst, når modellen har flere plausible ordvalg. Ved lange, åbne og varierede svar er der mere plads til et statistisk signal. Ved korte faktasvar, kode, navne, tal eller meget forudsigelige formuleringer er der mindre frihed til at ændre tokenvalg uden at påvirke korrektheden. Derfor bør tekstvandmærkning aldrig forveksles med en perfekt AI-detektor.
Hvordan fungerer SynthID på lyd?
På lyd indlejrer SynthID et signal, som ikke skal kunne høres af mennesker. Google DeepMind beskriver lydvandmærket som robust over for almindelige ændringer som støj, MP3-komprimering og ændret afspilningshastighed, når lyden er genereret eller publiceret gennem understøttede Google-systemer.
Lydvandmærkning er relevant, fordi syntetiske stemmer, musik og podcastlignende formater kan spredes uden visuelle spor. Et uhørligt vandmærke kan give platforme og redaktioner en teknisk mulighed for at undersøge, om et lydklip har relation til en bestemt AI-genereringskæde.
Begrænsningen er den samme som ved andre modaliteter: et vandmærke er kun nyttigt, hvis det faktisk blev indlejret, hvis signalet ikke er ødelagt, og hvis den, der kontrollerer indholdet, har adgang til en relevant detektor. Et lydklip uden detekteret vandmærke er derfor ikke automatisk menneskeskabt.
Hvad kan en SynthID-detektion fortælle?
En SynthID-detektion kan give et teknisk signal om, at indhold sandsynligvis er skabt eller ændret med et Google AI-system, som bruger SynthID. I nogle tilfælde kan det også pege på dele af indholdet, hvor vandmærkesignalet er stærkest. Det er nyttigt ved mediekontrol, platformshåndhævelse og intern kvalitetskontrol.
Detektionen bør formuleres som et resultat med begrænset rækkevidde. Den kan sige noget om et vandmærke, men ikke alt om indholdets historie. Den afgør ikke, om et billede viser en virkelig begivenhed, om en tekst er korrekt, om en video er krænkende, eller om et lydklip må bruges i en bestemt sammenhæng.
En god kontrol skelner mellem tre spørgsmål:
- Er der et teknisk vandmærkesignal, som en detektor kan finde?
- Hvilket system eller hvilken indholdstype er signalet knyttet til?
- Hvad betyder resultatet for den konkrete beslutning, indholdet indgår i?
Hvis svaret skal bruges i journalistik, undervisning, intern compliance eller offentlig kommunikation, bør det sammenholdes med afsender, originalfil, uploadhistorik, metadata, kontekst og almindelig kildekritik.
Hvad kan SynthID ikke bevise?
SynthID kan ikke bevise, at indhold er sandt. Et AI-genereret billede kan være vandmærket og stadig vise noget fiktivt. En AI-genereret tekst kan være vandmærket og stadig indeholde fejl. Omvendt kan et stykke AI-genereret indhold mangle SynthID, hvis det er skabt med et andet system, hvis vandmærkning var slået fra, eller hvis signalet er fjernet eller svækket.
SynthID kan heller ikke alene afgøre ansvar. Hvis et billede misbruges som dokumentation, handler sagen ikke kun om, hvorvidt billedet er AI-genereret. Den handler også om kontekst, afsender, platform, formål og skade. Derfor er vandmærkning kun én del af arbejdet med deepfakes og syntetiske medier.
En anden begrænsning er rækkevidde. Et provider-specifikt vandmærke fungerer kun på indhold, der er skabt eller ændret i systemer, som faktisk bruger den pågældende metode. Det er særligt vigtigt i åbne økosystemer, hvor billeder, modeller, redigeringsværktøjer og filformater flytter sig mellem mange tjenester.
Hvordan adskiller SynthID sig fra C2PA og metadata?
SynthID og C2PA løser beslægtede, men ikke identiske opgaver. SynthID handler om et indlejret signal, der kan overleve visse ændringer i selve indholdet. C2PA handler om proveniensmetadata, hvor oplysninger om oprindelse og ændringer kan samles i et kryptografisk signeret manifest.
| Metode | Hvad den prøver at vise | Typisk styrke | Typisk begrænsning |
|---|---|---|---|
| SynthID-lignende vandmærkning | At indhold bærer et skjult signal fra en bestemt genererings- eller redigeringsproces. | Kan være sværere at se og kan overleve nogle almindelige ændringer. | Virker kun, hvis signalet er indlejret og stadig kan detekteres. |
| C2PA og Content Credentials | Hvem der har signeret oplysninger om indholdets oprindelse, redigeringer og historik. | Giver læsbare proveniensoplysninger og kryptografisk tamper-evidence. | Metadata kan mangle, blive fjernet eller være afhængige af tillid til signerende parter. |
| Synlig label | At modtageren direkte får at vide, at indhold er AI-genereret eller AI-ændret. | Let at forstå for mennesker uden særlige værktøjer. | Kan beskæres, fjernes, glemmes eller ikke følge med ved deling. |
Den stærkeste løsning i praksis er ofte lagdelt: synlig disclosure til mennesker, metadata til proveniens og vandmærkning som teknisk spor. Ingen af metoderne er nok alene i alle situationer, men tilsammen kan de gøre misbrug, forveksling og uafklaret oprindelse sværere.
Hvilke fejl og angreb skal du tage højde for?
Vandmærkning skal vurderes ud fra både falsk tryghed og falsk mistanke. Falsk tryghed opstår, når et fundet vandmærke behandles som garanti for hele indholdets sandhed eller lovlighed. Falsk mistanke opstår, når fravær af et vandmærke bruges som bevis for, at indhold ikke er AI-genereret, eller når en usikker detektion overfortolkes.
Angreb kan være tekniske eller redaktionelle. Et billede kan beskæres, filtreres, gensamples, screenshotoptages eller genereres igen. En tekst kan omskrives, oversættes, klippes op eller blandes med menneskeskrevne afsnit. En lydfil kan komprimeres, blandes med baggrundsstøj eller optages gennem en anden enhed. Hver ændring kan svække det tekniske signal.
For tekst er begrænsningen særlig tydelig. Hvis en vandmærket tekst bliver grundigt omskrevet, kan detektionssikkerheden falde. Hvis teksten er kort eller meget faktuel, kan signalet være svagt fra begyndelsen. Derfor bør organisationer ikke bruge vandmærkning som eneste kontrol ved eksamen, ansættelse, disciplinærsager eller andre situationer, hvor en forkert vurdering kan få store konsekvenser.
Hvornår giver AI-vandmærkning mest værdi?
AI-vandmærkning giver mest værdi, når den indgår i en kendt arbejdsgang. Det kan være en medieplatform, der vil identificere syntetiske billeder; en skole, der vil have tydeligere retningslinjer for AI-genereret materiale; eller en virksomhed, der vil dokumentere, hvilke billeder og tekster der kommer fra egne AI-værktøjer.
Værdien er lavere, når indhold kommer fra ukendte kilder uden originalfil, når mange systemer er blandet sammen, eller når filen allerede har været igennem mange redigeringer. I de tilfælde kan et manglende signal ikke bære en konklusion. Kontrollen må i stedet bygge på flere spor.
En praktisk rækkefølge kan være:
- Gem originalfilen, hvis den findes, før indholdet deles eller komprimeres.
- Kontrollér, om der findes vandmærke, proveniensmetadata eller synlig label.
- Sammenhold resultatet med afsender, offentlig kontekst og kendte versioner af filen.
- Undgå automatiske sanktioner baseret på en enkelt detektor.
- Dokumentér usikkerhed, når resultatet bruges i en beslutning.
Den rækkefølge passer også til bredere sikkerhedsudfordringer ved generativ AI, hvor tekniske kontroller skal kombineres med proces, ansvar og menneskelig vurdering.
Hvad betyder EU’s AI-forordning for vandmærkning?
EU’s AI-forordning gør vandmærkning og mærkning mere relevant for europæiske brugere, fordi forordningen indeholder transparensforpligtelser for visse AI-systemer og visse typer AI-genereret indhold. Den overordnede retning er, at syntetisk indhold i relevante situationer skal kunne markeres og opdages på en maskinlæsbar måde.
Forordningen nævner blandt andet systemer, der genererer syntetisk lyd, billeder, video eller tekst, og den indeholder også regler om disclosure for deepfakes og AI-genereret tekst, der udgives med offentlig informationsinteresse. De generelle anvendelsesdatoer betyder, at mange af reglerne først får praktisk virkning gradvist, med hovedanvendelse fra 2. august 2026.
For en organisation er den tekniske pointe, at vandmærkning ikke kun er et frivilligt produktvalg. Det er på vej ind i bredere governance for generativ AI, medier og dokumentation. Samtidig bør europæisk relevans formuleres nøgternt: SynthID kan være en del af en teknisk løsning, men konkrete forpligtelser afhænger af rolle, system, indholdstype og brugssituation.
Hvordan hænger vandmærkning sammen med ophavsret og dataetik?
AI-vandmærkning kan hjælpe med sporbarhed, men den løser ikke ophavsret. Et vandmærke kan pege på, at indhold er skabt eller ændret med AI, men det fortæller ikke nødvendigvis, hvilke træningsdata der er brugt, om et motiv er beskyttet, eller om brugen krænker nogen rettigheder. Det kræver en særskilt vurdering.
For ophavsret er den vigtigste skelnen mellem oprindelse, rettigheder og brug. Oprindelse handler om, hvordan indholdet er frembragt. Rettigheder handler om, hvem der kan råde over værket eller materialet. Brug handler om, om en konkret publicering, bearbejdning eller kommerciel anvendelse er tilladt. AI-ophavsret kan derfor ikke reduceres til et teknisk vandmærke.
Dataetik handler tilsvarende om mere end detektion. Hvis en organisation vandmærker AI-indhold, bør den også beslutte, hvordan mærkningen forklares for brugere, hvor længe resultater opbevares, hvem der må kontrollere dem, og hvordan usikre resultater håndteres. Et teknisk signal bør ikke blive en sort boks, der alene afgør tillid.
Hvordan bør en organisation kontrollere AI-genereret indhold?
En organisation bør først definere, hvad kontrollen skal bruges til. En lavrisiko-kontrol kan handle om intern dokumentation: er et billede skabt med et godkendt værktøj? En højrisiko-kontrol kan handle om offentlig kommunikation, bevismateriale, politisk indhold eller personfølsomme billeder. Jo større konsekvens, desto mere skal vandmærkning suppleres.
Et realistisk kontrolsæt består af flere lag. Brug teknisk detektion, men gem også originalfiler, C2PA-oplysninger, versionshistorik, redaktionelle noter og tydelig disclosure. Lad en ansvarlig person vurdere usikre fund, især når indholdet kan påvirke personer, omdømme, økonomi eller offentlig tillid.
Det er også nyttigt at adskille kontrol af oprindelse fra kontrol af indhold. Et vandmærke kan hjælpe med oprindelse. Faktatjek, kontekstkontrol og faglig vurdering afgør, om indholdet er korrekt eller forsvarligt at bruge. Den skelnen er central, uanset om emnet er generativ AI, billedredigering, lydsyntese eller automatiseret tekstproduktion.
Hvilke kilder ligger til grund?
Artiklen bygger især på Google DeepMinds aktuelle beskrivelse af SynthID som værktøj til AI-genereret indhold, den tekniske Nature-artikel om SynthID-Text og vandmærkning af sprogmodeloutput, C2PA’s specifikation for Content Credentials og proveniensmetadata samt EU’s AI-forordning 2024/1689.