Hvad er Deepfakes?

Deepfakes er AI-genereret eller AI-manipuleret lyd, billede eller video, som får en person, et sted eller en hændelse til at fremstå ægte, selv om indholdet er kunstigt ændret. Begrebet bruges især om realistiske ansigter, stemmer og optagelser, der kan forveksles med autentisk materiale.

Hvad betyder deepfake i praksis?

En deepfake er ikke bare et redigeret billede eller en falsk overskrift. Det afgørende er, at kunstig intelligens bruges til at skabe eller ændre sanseindhold, så modtageren kan tro, at en bestemt person har sagt, gjort eller oplevet noget, som ikke svarer til den faktiske situation.

EU’s AI Act bruger en snæver og praktisk definition: AI-genereret eller manipuleret billede, lyd eller video, der ligner eksisterende personer, objekter, steder, enheder eller begivenheder og falsk kan fremstå autentisk. Den definition gør begrebet bredere end ansigtsbytte i video, fordi den også omfatter stemmer, objekter og hændelser.

I hverdagen bruges ordet ofte om videoer af politikere, direktører, kendte personer eller private personer. I teknisk forstand kan det samme problem opstå i et telefonopkald med en klonet stemme, et manipuleret mødeklip, et falsk produktbillede eller et syntetisk bevismateriale i en intern undersøgelse.

Hvordan bliver deepfakes skabt?

Deepfakes bygger på generative modeller, der lærer mønstre fra store mængder data og derefter kan skabe nyt indhold eller ændre eksisterende indhold. I ældre og enklere forklaringer forbindes deepfakes ofte med ansigtsbytte, hvor et ansigt mappes over på en anden persons bevægelser. I nyere værktøjer kan hele scener, mundbevægelser, stemmer og billedsekvenser genereres direkte.

Teknikken kan blandt andet bygge på autoencodere, diffusionmodeller, stemmesyntese, neurale renderingsmetoder og generative adversarial networks. Fælles for metoderne er, at modellen ikke klipper manuelt i hvert billede. Den beregner sandsynlige visuelle eller lydlige mønstre ud fra træningsdata og den konkrete styring, brugeren giver.

En simpel produktion kan begynde med et billede, en tekstbeskrivelse eller en kort lydprøve. Mere avancerede produktioner kan kombinere ansigtssporing, læbesynkronisering, stemmekloning, lyskorrektion og efterredigering, så resultatet passer bedre til den situation, indholdet skal foregive at vise.

Hvilke typer deepfakes møder du typisk?

Deepfakes kan opdeles efter medietype og formål. En video kan vise en person, der tilsyneladende holder en tale. Et lydklip kan efterligne en chef eller et familiemedlem. Et billede kan fremstille en person i en situation, der aldrig har fundet sted. I praksis blandes formaterne ofte.

Der er overlap med tekst til billede-modeller og tekst til video-modeller. Forskellen ligger ikke kun i værktøjet, men i om indholdet fremstiller virkelige personer, steder eller hændelser på en måde, der kan forveksles med autentisk materiale.

Hvad adskiller deepfakes fra almindelig billed- og videoredigering?

Almindelig redigering ændrer også virkeligheden. Et billede kan beskæres, farvekorrigeres eller klippes ud af sin sammenhæng. Deepfakes adskiller sig ved, at AI kan generere nye ansigtstræk, mundbevægelser, stemmer eller scener, som ikke fandtes i optagelsen, men som stadig kan ligne en plausibel dokumentation.

Grænsen kan være flydende. En filmproduktion kan bruge syntetiske effekter åbent og legitimt. En nyhedsredaktion kan bruge grafiske rekonstruktioner med tydelig mærkning. Problemet opstår, når modtageren ikke kan se, at materialet er manipuleret, eller når materialet bruges til at skabe falsk tillid til en person, en begivenhed eller en instruktion.

Derfor bør deepfakes vurderes efter kontekst. Det samme tekniske greb kan være acceptabelt i satire, fiktion eller samtykkebaseret produktion, men skadeligt i svindel, chikane, politisk manipulation, falsk dokumentation eller misbrug af privat billedmateriale.

Hvorfor er deepfakes svære at opdage?

Tidlige deepfakes kunne ofte afsløres ved mærkelige blink, skæve tænder, ujævne skygger eller stemmer, der lød robotagtige. De tegn er blevet mindre pålidelige, fordi generative modeller, billedforbedring og lydsyntese er blevet bedre til at efterligne små detaljer. Samtidig komprimerer sociale medier ofte filer, så tekniske spor bliver sværere at vurdere.

Menneskelig intuition er heller ikke nok. Forskning i AI-klonede stemmer viser, at deltagere ikke konsekvent kunne skelne AI-genererede stemmer fra virkelige stemmer. Det er fagligt relevant, fordi mange svindelsituationer ikke giver tid til langsom analyse. En troværdig stemme i et presset opkald kan være mere effektiv end en perfekt video.

Detektionsværktøjer kan hjælpe, men de er ikke neutrale sandhedsmaskiner. De trænes på bestemte typer indhold og kan fejle, når nye modeller, komprimering, oversættelse, skærmoptagelser eller efterredigering ændrer materialet. Et sikkert tjek kræver derfor flere spor, ikke kun et enkelt værktøj.

Hvilke risici skaber deepfakes for personer og organisationer?

Deepfakes rammer først tillid. Hvis et klip ser ægte ud, kan det påvirke beslutninger, relationer og omdømme, før nogen har haft tid til at kontrollere indholdet. Risikoen stiger, når materialet deles i lukkede grupper, korte nyhedsformater eller hektiske arbejdssituationer, hvor modtageren handler hurtigt.

For personer kan skaden handle om identitet, privatliv, chikane eller falske anklager. Ikke-samtykkebaserede intime billeder er en særlig alvorlig kategori, fordi AI kan skabe krænkende materiale uden en fysisk optagelse. For organisationer kan risikoen handle om direktørsvindel, falske pressemeddelelser, manipulerede mødeoptagelser, adgangsbedrag og usikkerhed om digitale beviser.

Deepfakes hænger tæt sammen med bredere sikkerhedsudfordringer ved generativ AI. NIST beskriver blandt andet informationsintegritet, svindel, identitetstyveri, privatliv og misbrug af syntetisk indhold som risikoområder. Den praktiske konsekvens er, at deepfake-risiko bør behandles som både kommunikationsrisiko, sikkerhedsrisiko og datarisiko.

Hvordan kan deepfakes bruges legitimt?

Deepfake-lignende teknikker er ikke i sig selv ulovlige eller skadelige. De kan bruges i film, spil, tilgængelighedsteknologi, dubbing, historiske rekonstruktioner, undervisning og kreative formater. Et legitimt brugsmønster kræver typisk samtykke, klar mærkning, rimelig kontekst og respekt for den person, der fremstilles.

En skuespiller kan for eksempel give tilladelse til digital ansigts- eller stemmebrug i en produktion. En virksomhed kan bruge syntetisk video til intern træning, hvis deltagerne kan se, at det er en simulation. En underviser kan vise et manipuleret eksempel for at forklare kildekritik, hvis det tydeligt markeres som konstrueret.

Det afgørende kontrolpunkt er ikke, om teknikken er imponerende, men om modtageren har en rimelig mulighed for at forstå, hvad materialet er. Når en deepfake er mærket, samtykkebaseret og ikke vildleder om en virkelig persons handlinger, flytter vurderingen sig fra bedrag til almindelig medieproduktion.

Hvordan vurderer du, om et klip kan være manipuleret?

En god vurdering starter med kilden, ikke med pixels. Spørg først, hvor materialet kommer fra, hvem der offentliggjorde det, om den oprindelige fil kan findes, og om personen eller organisationen selv har bekræftet indholdet. Et realistisk klip uden sporbar oprindelse bør behandles med lavere tillid end et mindre perfekt klip fra en verificerbar kilde.

• Tjek om klippet findes hos den oprindelige afsender, ikke kun hos en konto, der har delt det videre.
• Søg efter uafhængige kilder, der beskriver samme hændelse med samme tidspunkt og sted.
• Sammenlign lyd, lys, skygger, mundbevægelser og kropssprog, men brug kun visuelle tegn som støtte.
• Kontakt personen eller organisationen via en kendt kanal, hvis indholdet kræver handling.
• Gem fil, link, tidspunkt og kontekst, før materialet slettes eller ændres.

Ved økonomiske instrukser, adgangsanmodninger eller følsomme oplysninger bør du bruge en anden kommunikationskanal end den, der leverer klippet. Hvis en stemmebesked beder om en betaling, bør bekræftelsen ske via et kendt nummer, en intern godkendelsesproces eller et system, der ikke styres af afsenderen i beskeden.

Hvilke tekniske spor kan hjælpe med kontrol?

Tekniske spor kan opdeles i tre grupper: indholdsanalyse, proveniens og procesdata. Indholdsanalyse undersøger selve filen for mønstre, der kan indikere syntese. Proveniens forsøger at dokumentere, hvor materialet kommer fra, og hvordan det er ændret. Procesdata kan være metadata, signaturer, uploadhistorik eller adgangslogning.

NIST beskriver vandmærker, metadata og provenienssystemer som nyttige byggesten, men ikke som garanti for sandhed. Et vandmærke kan mangle, fjernes eller kun gælde indhold fra bestemte værktøjer. Metadata kan være redigeret eller tabt under upload. Et detektionsværktøj kan give sandsynligheder, men stadig tage fejl.

Den mest robuste vurdering kombinerer flere lag. Hvis en video både har verificerbar oprindelse, konsistent metadata, uafhængig bekræftelse og ingen tekniske advarselstegn, er tilliden højere. Hvis kun ét af disse lag er til stede, bør konklusionen formuleres mere forsigtigt.

Hvordan hænger deepfakes sammen med tekst til video-modeller?

Nye tekst til video-modeller gør grænsen mellem deepfake og fuldt syntetisk video mere kompleks. Tidligere handlede mange deepfakes om at lægge et eksisterende ansigt oven på en eksisterende video. I dag kan en model i nogle tilfælde skabe en scene direkte ud fra en beskrivelse, et referencebillede eller en kort sekvens.

Det betyder, at en deepfake ikke altid har et tydeligt originalklip. En falsk optagelse kan være genereret fra bunden, men stadig ligne en bestemt person, en bestemt location eller en begivenhed, der kunne have fundet sted. Kontrollen bør derfor ikke kun lede efter spor af klipning, men også undersøge, om hændelsen overhovedet kan bekræftes uden for selve videoen.

For medier, skoler og organisationer ændrer det kildekritikken. Man kan ikke længere nøjes med at spørge, om et klip er redigeret. Man skal også spørge, om scenen, personen, stemmen og tidslinjen er dokumenteret af uafhængige kilder.

Hvordan bør en organisation håndtere deepfake-risiko?

Organisationer bør behandle deepfakes som en del af almindelig risikostyring. Det handler ikke kun om at købe et detektionsværktøj. Den vigtigste beskyttelse er ofte en arbejdsproces, der gør det svært at handle på en falsk stemme, et falsk mødeklip eller en falsk besked uden ekstra kontrol.

1. Definer hvilke situationer der kræver ekstra bekræftelse, for eksempel betalinger, adgangsændringer, presseudsagn og persondata.
2. Indfør kendte tilbagekalds- eller godkendelseskanaler, som ikke kan erstattes af en lyd- eller videobesked alene.
3. Træn medarbejdere i konkrete scenarier, især stemmekloning, hastebeskeder og falske ledelsesinstrukser.
4. Gem mistænkeligt materiale og hændelsesdata, så teknisk analyse og intern opfølgning er mulig.
5. Beslut på forhånd, hvem der må afvise, eskalere eller offentliggøre en afklaring ved mistanke om manipulation.

For offentlige institutioner, skoler, medier og virksomheder i Danmark er den praktiske pointe den samme: Beslutninger med konsekvens bør ikke afhænge af én uverificeret lyd- eller videokilde. Deepfake-beredskab bliver stærkest, når det kobles til adgangskontrol, kommunikationspolitik, incident response og træning.

Hvad betyder EU’s AI Act for deepfakes?

EU’s AI Act giver deepfakes en tydelig reguleringsmæssig placering. Forordningen definerer deepfake i artikel 3 og indeholder i artikel 50 en transparensregel for deployers af AI-systemer, der genererer eller manipulerer billede, lyd eller video, som udgør en deepfake. Den generelle anvendelsesdato for forordningen er 2. august 2026, med særskilte tidligere og senere anvendelsestidspunkter for nogle dele.

Reglen betyder ikke, at alle deepfake-lignende produktioner er forbudt. Den peger i stedet på mærkning og disclosure, når indholdet er kunstigt genereret eller manipuleret. Der findes også undtagelser og særlige formuleringer for blandt andet retshåndhævelse og tydeligt kunstneriske, kreative, satiriske eller fiktive værker.

For praktisk brug bør AI Act ses som et minimumsspor for transparens, ikke som en fuld teknisk sikkerhedsløsning. En mærkning kan hjælpe modtageren, men den kan ikke alene afgøre, om et klip er sandt, fair, lovligt, samtykkebaseret eller sikkert at handle på.

Hvad er en god tommelfingerregel for deepfakes?

Den mest brugbare tommelfingerregel er at adskille indholdets realisme fra indholdets dokumentation. Et klip kan se ægte ud uden at være dokumenteret, og et ægte klip kan være taget ud af kontekst. Troværdighed bør derfor bygge på oprindelse, sammenhæng, uafhængig bekræftelse og formålet med delingen.

Hvis et medieindhold bruges til at presse dig til hurtig handling, bør kravet om kontrol stige. Det gælder især betalinger, login, adgang til data, personalesager, krisekommunikation og deling af privat materiale. Deepfakes udnytter ofte tempo, tillid og følelsesmæssig genkendelse.

En moden tilgang er hverken at afvise alt digitalt indhold eller stole blindt på det mest realistiske. Den er at spørge, hvilke uafhængige spor der støtter indholdet, hvem der har interesse i delingen, og hvilken skade der kan ske, hvis vurderingen er forkert.

Hvilke kilder ligger til grund?

Definitionen af deepfake og den europæiske transparensregel bygger på Regulation (EU) 2024/1689 om kunstig intelligens.

Den tekniske forklaring af syntetisk indhold, vandmærker, proveniens og detektion bygger på NIST-rapporten Reducing Risks Posed by Synthetic Content.

Risikovinklen for generativ AI bygger også på NISTs Generative Artificial Intelligence Profile.

Vurderingen af stemmekloning og menneskelig detektion bygger på forskningsartiklen People are poorly equipped to detect AI-powered voice clones.