Hvad er en AI-detektor?

En AI-detektor er et værktøj, der vurderer, om tekst, billeder, lyd eller video sandsynligvis er skabt med generativ AI. Resultatet er en sandsynlighed eller markering, ikke et bevis, og bør kun bruges sammen med kontekst, dokumentation og menneskelig vurdering.

Hvordan fungerer en AI-detektor i praksis?

En AI-detektor sammenligner et stykke indhold med mønstre, som systemet forbinder med maskinskabt indhold. For tekst kan det være ordvalg, sætningsrytme, forudsigelighed, ensartet struktur og sandsynligheden for, at bestemte ord følger efter hinanden. For billeder, lyd og video kan det være tekniske spor i pixels, metadata, lydmønstre eller vandmærker.

Detektoren afgør normalt ikke, hvem der har skrevet eller skabt indholdet. Den beregner en score. En høj score kan betyde, at indholdet ligner materiale fra en generativ model, men den kan også skyldes skabelontekst, meget enkel sprogbrug, redigeret maskintekst eller en menneskelig tekst, der tilfældigt passer til detektorens mønstre.

Det er derfor mere præcist at se en AI-detektor som et screeningsværktøj end som en facitliste. Den kan hjælpe med at pege på indhold, der kræver nærmere kontrol, men den kan ikke alene afgøre ophav, hensigt eller kvalitet. Det gælder især ved kunstig intelligens, hvor modeller og menneskelig redigering ofte blandes i samme arbejdsproces.

Hvad måler en tekstbaseret AI-detektor?

Tekstbaserede AI-detektorer bruger typisk en eller flere tekniske metoder. Nogle måler perpleksitet, som groft sagt handler om, hvor forudsigelig teksten er for en sprogmodel. Andre måler variation mellem sætninger, gentagelser, grammatiske mønstre eller stiltræk, som ofte forekommer i modelgenereret tekst.

Moderne detektorer kan også være trænet som klassifikationsmodeller. Her får systemet eksempler på menneskeskrevne og AI-genererede tekster og lærer at skelne mellem dem ud fra statistiske forskelle. Den type metode ligger tæt på andre opgaver inden for natural language processing, hvor sprog behandles som data.

Målingen afhænger stærkt af, hvilke tekster systemet er trænet og testet på. En detektor, der er trænet på engelske essays fra bestemte modeller, kan klare sig dårligere på korte danske tekster, tekniske manualer, juridiske formuleringer, oversat tekst eller indhold, der er skrevet i en fast skabelon.

Hvor sikker er en AI-detektor?

En AI-detektor kan være nyttig, men den er ikke sikker nok til at stå alene i beslutninger med konsekvenser for mennesker. OpenAI gjorde sin offentlige tekstklassifikator utilgængelig fra 20. juli 2023 på grund af lav nøjagtighed. OpenAI oplyste samtidig, at klassifikatoren i en evaluering markerede 26 procent af AI-skrevne engelske tekster som sandsynligt AI-skrevne og fejlagtigt markerede 9 procent af menneskeskrevne tekster som AI-skrevne.

Den type tal viser to forskellige problemer. Falske negative resultater betyder, at AI-genereret tekst ikke bliver fanget. Falske positive resultater betyder, at menneskeskrevet tekst bliver markeret som AI-genereret. Det sidste er særligt alvorligt i skole, rekruttering, eksamen, journalistik og interne personalesager, fordi en forkert markering kan blive opfattet som mistanke om snyd eller uærlighed.

Forskning i AI-tekstdetektion peger også på, at pålideligheden falder, når tekster bliver omskrevet, oversat eller bevidst redigeret for at ligne menneskelig stil. Det betyder ikke, at alle detektorer er uden værdi. Det betyder, at resultatet skal læses som et usikkert signal med kendte begrænsninger.

Hvorfor opstår falske positive resultater?

Falske positive resultater opstår, når en menneskeskrevet tekst ligner de mønstre, detektoren forbinder med AI. Det kan ske, hvis teksten er kort, meget korrekt, skabelonpræget, sprogligt enkel eller skrevet med få stilistiske udsving. Tekster fra personer, der skriver på et andet sprog end deres modersmål, kan også have mere regelmæssige mønstre, fordi ordvalg og syntaks ofte bliver mere kontrolleret.

Et studie af GPT-detektorer på engelske tekster fandt, at flere værktøjer fejlklassificerede tekster fra ikke-modersmålstalende engelskskrivere som AI-genererede. Det er ikke det samme som et dokumenteret dansk fejlmønster, men det viser, hvorfor en detektors score ikke bør bruges mekanisk over for elever, studerende, jobansøgere eller medarbejdere.

En anden årsag er, at mange tekster i praksis er blandede. En person kan have skrevet udkastet selv, brugt et AI-værktøj til sproglig bearbejdning, fået forslag fra en kollega og derefter redigeret manuelt. En detektor kan registrere dele af den sproglige overflade uden at kunne forklare arbejdsprocessen bag teksten.

Kan en AI-detektor afsløre omskrevet eller blandet tekst?

Det er vanskeligere at opdage AI-genereret tekst, når den er grundigt omskrevet. Forskning i AI-tekstdetektion har vist, at rekursiv parafrasering kan reducere detektionsraten markant, samtidig med at teksten stadig kan bevare sin mening. Oversættelse, stilredigering og manuel omskrivning kan have samme praktiske effekt.

Blandet tekst er også svær. Hvis en model har skrevet et afsnit, en person har skrevet et andet, og en tredje person har samlet teksten, bliver ophavet ikke et enten-eller-spørgsmål. Detektoren kan måske give en samlet score, men scoren forklarer ikke, hvilke dele der er maskinskabte, hvilke der er menneskeskabte, eller om brugen var tilladt i den konkrete sammenhæng.

Det er en vigtig forskel i forhold til GPT og generative transformermodeller. Sprogmodeller kan producere mange forskellige formuleringer for samme indhold, og mennesker kan redigere dem videre. Jo mere teksten bliver bearbejdet, desto mindre direkte forbindelse er der mellem den endelige tekst og det oprindelige modeloutput.

Hvad er forskellen på AI-detektion, plagiatkontrol og kildekritik?

AI-detektion bliver ofte nævnt sammen med plagiatkontrol, men de to ting måler ikke det samme. En plagiatkontrol leder efter tekstlig lighed med kendte kilder. En AI-detektor leder efter statistiske eller tekniske tegn på, at indholdet kan være genereret af en model. Kildekritik vurderer derimod, om indholdet er sandt, dokumenteret og relevant.

En tekst kan derfor være AI-genereret uden at være plagieret. Den kan også være menneskeskrevet og stadig være fuld af fejl. Omvendt kan en tekst være delvist AI-assisteret, men faktuelt korrekt og klart kildeangivet, hvis reglerne for opgaven eller arbejdspladsen tillader den brug.

Hvilke tekster egner sig dårligst til AI-detektion?

AI-detektorer har sværest ved tekster, hvor der er få sproglige spor at arbejde med. Det gælder korte tekster, meget faktuelle svar, standardformuleringer, oversættelser, kodekommentarer, skabeloner, produktbeskrivelser og tekster, hvor korrekt svar næsten giver sig selv. Når variationen er lav, bliver forskellen mellem menneske og model mindre tydelig.

• Korte tekster giver for lidt datagrundlag til en stabil vurdering.
• Meget regelmæssig eller skabelonbaseret tekst kan ligne maskinsprog, selv når den er skrevet af mennesker.
• Oversat og sprogrettet tekst kan miste nogle af de individuelle træk, som en detektor ellers kunne bruge.
• Tekster med mange faste fagudtryk kan se mere forudsigelige ud end almindelig fri prosa.
• Bevidst omskrevet AI-tekst kan være vanskeligere at skelne fra menneskelig redigering.

I praksis betyder det, at en lav eller høj score ikke skal tolkes isoleret. Et resultat bør altid holdes op mod opgavens karakter, læserens kendskab til afsenderen, versionshistorik, kilder, afleveringsproces og eventuelle regler for brug af AI.

Hvordan bør du bruge en AI-detektor i skole eller arbejde?

Hvis du bruger en AI-detektor i skole, på en arbejdsplads eller i en redaktion, bør den indgå i en bredere vurdering. Det første spørgsmål er ikke, om scoren ser høj ud, men hvad scoren skal bruges til. En intern kvalitetskontrol kræver mindre bevisstyrke end en afgørelse om snyd, ansættelse eller disciplinær proces.

1. Definér på forhånd, hvilken AI-brug der er tilladt, delvist tilladt eller forbudt.
2. Brug detektoren som et signal, der kan udløse dialog eller ekstra kontrol.
3. Inddrag versionshistorik, noter, kilder, arbejdsproces og faglig samtale.
4. Undgå sanktioner baseret på én automatisk score.
5. Dokumentér, hvordan resultatet er vurderet, hvis beslutningen har konsekvenser for en person.

Den samme tilgang er relevant ved kvalitetssikring af publiceret indhold. En redaktion kan bruge en AI-detektor til at finde tekster, der kræver nærmere gennemgang, men den bør også kontrollere kilder, citater, tal og eventuelle AI-hallucinationer. En detektor kan pege på ophavsrisiko, men den kontrollerer ikke sandhedsværdien af påstande.

Hvad betyder vandmærkning og proveniens for AI-detektion?

Vandmærkning er en anden tilgang end efterfølgende klassifikation. I stedet for at analysere en færdig tekst udefra kan et AI-system indbygge et statistisk signal, mens teksten genereres. Google DeepMind beskriver SynthID for tekst som en metode, der justerer sandsynligheden for bestemte tokens under genereringen, så et senere system kan lede efter et mønster.

Fordelen er, at vandmærket kan give et mere direkte spor end en almindelig efteranalyse, hvis indholdet faktisk kommer fra et system, der bruger metoden. Begrænsningen er, at signalet kan blive svagere, når teksten bliver grundigt omskrevet, oversat eller reduceret til korte faktuelle svar. Vandmærkning kræver også, at den model, der skaber indholdet, faktisk indbygger signalet.

Proveniens handler om dokumentation for, hvor indholdet kommer fra, og hvilke redigeringer det har gennemgået. Det kan være metadata, signaturer eller platformsspor. Proveniens kan være stærkere end ren gætning, men den kræver, at kæden fra skabelse til visning bevares. Hvis metadata fjernes, eller indhold kopieres ind i nye systemer, kan sporet forsvinde.

Hvilken rolle spiller EU-regler for mærkning af AI-indhold?

EU’s AI-forordning indeholder transparenskrav for visse AI-systemer. Artikel 50 kræver blandt andet, at udbydere af AI-systemer, herunder general-purpose AI-systemer, der genererer syntetisk lyd, billede, video eller tekst, sikrer maskinlæsbar mærkning og detekterbarhed som kunstigt genereret eller manipuleret, så langt det er teknisk muligt.

Forordningen finder som hovedregel anvendelse fra 2. august 2026, men forskellige dele har andre datoer. Det gør AI-detektion relevant for organisationer i EU, men ikke som en enkel erstatning for egne retningslinjer. Regler om mærkning, redaktionel kontrol, menneskelig vurdering og tekniske standarder skal omsættes til konkrete arbejdsgange.

I praksis hænger dette sammen med AI-governance. En organisation skal ikke kun vælge et værktøj, men også beslutte, hvornår AI-brug skal oplyses, hvem der må kontrollere indhold, hvordan fejl håndteres, og hvordan personer undgår at blive bedømt ud fra en usikker automatisk score.

Hvordan vurderer du et AI-detektor-resultat?

Et AI-detektor-resultat bør vurderes ud fra både teknisk og praktisk kontekst. En score på 80 procent betyder ikke nødvendigvis, at 80 procent af teksten er skrevet af AI. Det kan betyde, at systemet vurderer teksten som mere lig en bestemt gruppe AI-genererede tekster end en bestemt gruppe menneskeskrevne tekster.

• Se på tekstens længde, genre, sprog og formål.
• Spørg, om teksten er oversat, sprogrettet eller skrevet efter en fast skabelon.
• Undersøg kilder, versionshistorik og arbejdsproces, før scoren tillægges vægt.
• Gentag ikke automatisk testen i flere værktøjer uden at forstå, at de kan dele samme type fejl.
• Brug resultatet som anledning til kontrol, ikke som endelig konklusion.

Den mest robuste vurdering kombinerer tekniske signaler med åben dokumentation. Hvis spørgsmålet handler om læring, kvalitet eller korrekthed, kan samtale, kildetjek og proceskrav give mere værdi end jagten på en entydig AI-score. Hvis spørgsmålet handler om transparens, er klare regler for tilladt AI-brug ofte vigtigere end efterfølgende detektion.

Hvornår giver en AI-detektor reel værdi?

En AI-detektor giver mest værdi, når risikoen er kendt, og resultatet bruges proportionalt. I en redaktion kan den hjælpe med at finde tekster, der kræver ekstra faktatjek. I en skole kan den indgå som et af flere signaler, når en tekst afviger markant fra elevens normale arbejde. I en virksomhed kan den understøtte kontrol med eksternt leveret indhold, hvis kontrakten kræver oplysning om AI-brug.

Værdien falder, når værktøjet bruges som bevismaskine. Det sker, hvis en score alene afgør en konflikt, eller hvis organisationen ikke har defineret, hvilken AI-assistance der er acceptabel. Mange opgaver vil fremover være hybride: mennesker planlægger, modeller foreslår, mennesker redigerer, og systemer kvalitetssikrer. En detektor kan kun se en del af den kæde.

En god praksis er derfor at kombinere tre spor: klare regler før arbejdet begynder, dokumentation undervejs og begrundet kontrol bagefter. AI-detektoren kan være en del af det sidste spor, men den bør ikke overtage de to første.

Hvilke kilder ligger til grund?

Artiklen bygger blandt andet på OpenAIs tekstklassifikator og dens dokumenterede begrænsninger, forskningsartiklen Can AI-Generated Text be Reliably Detected? og studiet GPT detectors are biased against non-native English writers.

Derudover indgår Google DeepMinds beskrivelse af SynthID til tekst og video samt EU-forordningen om kunstig intelligens, især artikel 50 om mærkning og detekterbarhed af syntetisk indhold.