AI hallucination – kan det undgås?

AI hallucination kan ikke undgås helt i generative AI-systemer, men risikoen kan reduceres markant med afgrænsede opgaver, pålidelige kilder, grounding, lavere kreativitet og menneskelig kontrol. Det afgørende er at behandle AI-svar som forslag, der skal verificeres, når fakta, beslutninger eller ansvar er på spil.

Hvad er en AI hallucination?

En AI hallucination er et AI-genereret svar, der virker sammenhængende og selvsikkert, men som indeholder forkerte, opdigtede eller ikke-underbyggede oplysninger. Det kan være en falsk kilde, en forkert dato, en opfundet funktion, en misvisende opsummering eller en konklusion, som ikke følger af det materiale, modellen har fået.

Begrebet bruges især om sprogmodeller, men samme problem kan opstå i andre generative systemer. En billedmodel kan placere et objekt forkert, en lydmodel kan gengive et navn forkert, og en tekstmodel kan fremstille en antagelse som et faktum. I praksis er problemet farligt, fordi fejlen ofte er pakket ind i flydende sprog.

NIST bruger også betegnelsen confabulation om det samme fænomen: et generativt system producerer indhold, der fremstår sikkert, men er fejlagtigt. Det betyder ikke, at modellen lyver med vilje. Det betyder, at outputtet kan være forkert, selv når formen, tonen og argumentationen virker overbevisende.

Hvorfor opstår hallucinationer i sprogmodeller?

Store sprogmodeller er trænet til at forudsige sandsynlige tekstsekvenser. En model som GPT-modeller arbejder med mønstre i data og relationer mellem ord, begreber og kontekster. Den har ikke en indbygget garanti for, at hvert udsagn svarer til en kontrolleret kilde.

Hallucinationer opstår især, når modellen skal udfylde huller. Hvis spørgsmålet mangler kontekst, hvis emnet er nichepræget, hvis informationen er nyere end modelgrundlaget, eller hvis der findes modstridende kilder, kan modellen danne et sandsynligt svar i stedet for at afvise opgaven. Det kan give rigtige formuleringer med forkerte detaljer.

En anden årsag er, at mange tests og brugerforventninger belønner et svar frem for et ærligt forbehold. Hvis systemer vurderes højt for at give et hurtigt og komplet svar, kan det indirekte fremme gæt. Nyere forskning peger derfor på, at bedre faktualitet også handler om at belønne modeller for at sige fra, når de ikke har tilstrækkeligt grundlag.

Kan hallucinationer fjernes helt?

I praktisk brug bør svaret være nej. Hallucinationer kan reduceres, måles og opdages bedre, men de bør ikke betragtes som fuldt fjernet i åbne generative systemer. Det gælder især, når modellen svarer på brede spørgsmål, skriver lange forklaringer eller arbejder med oplysninger, der kræver præcis domæneviden.

Der er stor forskel på at reducere risiko og at eliminere risiko. Et system kan være bedre trænet, have adgang til kilder, være indstillet mere konservativt og stadig lave fejl. En kilde kan være forældet, forkert valgt eller misforstået. Et korrekt citat kan også bruges til en konklusion, kilden ikke understøtter.

Den mest robuste tilgang er derfor at designe arbejdsgangen, som om hallucinationer kan opstå. Det betyder, at AI kan bruges til udkast, ideer, struktur, oversigter og første analyser, mens faktuelle nøglepunkter kontrolleres særskilt, før de bruges i rapporter, kundesvar, undervisning, kode, medicinske vurderinger, jura eller økonomiske beslutninger.

Hvornår er risikoen størst?

Risikoen stiger, når opgaven kræver præcision, men modellen mangler et klart, kontrollerbart grundlag. Det gælder ikke kun sjældne emner. Hallucinationer kan også opstå ved velkendte emner, hvis spørgsmålet blander flere perioder, bruger uklare navne eller beder modellen kombinere oplysninger fra forskellige kilder.

Risikoen er lavere, når opgaven handler om sproglig bearbejdning af materiale, du selv leverer, og hvor outputtet kan kontrolleres direkte mod inputtet. Den forsvinder dog ikke. En model kan stadig udelade væsentlige forbehold, forveksle navne eller trække en konklusion længere, end materialet tillader.

Hvilke tegn peger på en mulig hallucination?

Et AI-svar bør kontrolleres ekstra, når det indeholder meget præcise detaljer uden kilde, for eksempel datoer, priser, versionsnumre, paragraffer, forskningsresultater, markedsandele eller tekniske begrænsninger. Jo mere specifik en oplysning er, desto lettere bør den være at efterprøve.

Et andet tegn er en kilde, der lyder rigtig, men ikke kan findes. Hallucinerede referencer er særligt problematiske, fordi de ligner almindelig akademisk eller teknisk dokumentation. Det samme gælder links, som fører til en rigtig organisation, men ikke til den påståede information.

Sproglige signaler kan også afsløre usikkerhed. Hvis svaret skifter mellem to forklaringer, bruger brede formuleringer omkring et konkret spørgsmål eller svarer meget sikkert på et område med kendt uenighed, bør du behandle det som et udkast. Flydende sprog er ikke dokumentation.

Hvordan kan grounding og RAG reducere risikoen?

Grounding betyder, at modellen bindes tættere til et bestemt datagrundlag, for eksempel dokumenter, databasesvar eller søgeresultater. Grounding af AI-modeller kan gøre svaret mere efterprøvbart, fordi modellen ikke kun skal trække på generelle mønstre fra træning.

Retrieval-augmented generation, ofte forkortet RAG, går et skridt videre ved at hente relevante tekststykker eller data før svaret dannes. Den oprindelige RAG-forskning viser, at kombinationen af modelviden og ekstern hukommelse kan give mere specifikke og faktuelle svar end en model, der kun bruger sine interne parametre.

RAG er dog ikke en garanti. Hvis systemet henter den forkerte kilde, overser en nyere rettelse eller bruger et tekststykke uden den nødvendige sammenhæng, kan outputtet stadig blive forkert. RAG flytter derfor noget af kvalitetsarbejdet fra selve modellen til datagrundlag, retrieval, kildeprioritering og efterkontrol.

Hvorfor er kilder ikke nok i sig selv?

Et svar med kilder kan stadig være vildledende. Modellen kan citere en kilde korrekt, men bruge den til en for bred konklusion. Den kan også blande en opdateret kilde med ældre viden eller placere et korrekt udsagn i en forkert kontekst. Kilder øger gennemsigtigheden, men de erstatter ikke læsning.

Derfor bør kildekontrol have to lag. Først skal kilden eksistere og være relevant. Derefter skal den konkrete påstand kontrolleres mod kilden. Det sidste lag bliver ofte overset, fordi en synlig kilde kan give en falsk følelse af sikkerhed.

For organisationer er kildekvalitet også et governance-spørgsmål. En intern assistent, der svarer på personalepolitikker, produktdata eller kundesager, skal have adgang til opdaterede og godkendte kilder. Hvis datagrundlaget er rodet, forældet eller uafklaret, kan AI-systemet gengive rodet med høj sproglig selvtillid.

Hvordan bør du kontrollere AI-svar i praksis?

Den mest effektive kontrol er enkel, men konsekvent. Du skal ikke kontrollere hvert ord i alle AI-udkast. Du skal identificere de oplysninger, der kan ændre en beslutning, et ansvar, en betaling, en teknisk løsning eller en persons rettigheder. De punkter kræver verificering.

1. Marker alle konkrete fakta: datoer, tal, navne, krav, funktioner, citater og tekniske begrænsninger.
2. Find primærkilden, når den findes: officiel dokumentation, forskningsartikel, myndighedstekst eller systemets egne data.
3. Sammenlign påstanden med kilden, ikke kun med modellens forklaring.
4. Adskil fakta, fortolkning og anbefaling, så læseren kan se, hvad der er sikkert, og hvad der er vurdering.
5. Fjern eller omskriv udsagn, der ikke kan bekræftes.

Denne arbejdsgang er især relevant, når AI bruges til kundeservice, undervisningsmateriale, ledelsesnotater, kodegennemgang, kontraktudkast, analyser eller offentlig kommunikation. I lave risikosituationer kan kontrollen være let. I højere risikosituationer bør den være dokumenteret og fordelt på tydelige roller.

Hvilke indstillinger og arbejdsvalg påvirker fejlrisikoen?

Modelindstillinger kan påvirke risikoen, men de løser ikke problemet alene. En lavere kreativitet kan gøre svar mere stabile, mens en højere kreativitet kan give flere variationer og mere spekulativ formulering. Derfor er temperatur i AI-prompts et praktisk kontrolpunkt, når du vil have mere faktuelle og ensartede svar.

Opgavens formulering betyder også meget. En smal opgave med klart datagrundlag giver bedre kontrol end en bred opgave, hvor modellen både skal finde fakta, vælge metode, fortolke og formulere konklusion. Du kan reducere risikoen ved at bede om korte svar, synlige forbehold og adskilte trin.

Et godt arbejdsvalg er at gøre modellen mindre ansvarlig for sandheden i første omgang. Brug den til at foreslå spørgsmål, finde mulige fejlkilder, sammenfatte kendt materiale eller lave en tjekliste. Lad verificerede kilder og menneskelig faglighed afgøre, hvad der ender i den færdige beslutning.

Hvad betyder hallucinationer for organisationer?

For organisationer er hallucinationer ikke kun et spørgsmål om en chatbot, der svarer forkert. De handler om kvalitetssikring, ansvar, dokumentation og tillid. Hvis AI bruges i en arbejdsgang, skal det være tydeligt, hvem der ejer outputtet, hvilke kilder systemet må bruge, og hvornår et menneske skal godkende svaret.

Organisationer kan arbejde med tre niveauer. Først skal formålet afgrænses: Hvilke opgaver må AI hjælpe med, og hvilke må den ikke afgøre? Dernæst skal datagrundlaget styres: Hvilke kilder er autoritative, opdaterede og tilgængelige? Til sidst skal outputtet kontrolleres: Hvilke svar kræver godkendelse, logning eller ekstra test?

Det passer sammen med bredere sikkerhedsudfordringer ved generativ AI. Hallucinationer kan blive forstærket af adgang til værktøjer, automatisering og integrationer. Et forkert svar er én ting. Et forkert svar, der automatisk sender en mail, opdaterer en database eller ændrer en sag, har en anden risikoprofil.

Hvordan bør hallucinationer håndteres i følsomme områder?

I følsomme områder bør AI-svar aldrig stå alene. Det gælder blandt andet sundhed, økonomi, ansættelse, uddannelse, offentlig sagsbehandling, cybersikkerhed og andre områder, hvor en fejl kan få konkrete konsekvenser. Her skal hallucinationer håndteres som en kendt driftsrisiko, ikke som en sjælden undtagelse.

En praktisk model er at dele AI-brugen i lav, mellem og høj risiko. Lav risiko kan være brainstorm, sproglig omskrivning eller struktur. Mellem risiko kan være intern analyse, hvor fakta senere kontrolleres. Høj risiko er output, der påvirker personer, penge, sikkerhed, rettigheder eller offentlig information. Jo højere risiko, desto stærkere krav til kilder, dokumentation og godkendelse.

International AI Safety Report 2026 beskriver fortsat upålidelighed som en begrænsning ved generelle AI-systemer, også når de er meget stærke på andre opgaver. Det er en nyttig påmindelse: høj kapacitet i én type test betyder ikke nødvendigvis høj pålidelighed i alle virkelige situationer.

Hvordan kan man bruge AI ansvarligt trods hallucinationer?

AI kan stadig være nyttig, selv om hallucinationer ikke kan fjernes helt. Den rigtige konklusion er ikke at undgå AI, men at bruge den med den rette opgavefordeling. Modellen kan hjælpe med overblik, variation, struktur og første udkast. Mennesker og kilder skal bære ansvaret for de faktiske afgørelser.

En robust brugsmåde er at lade AI arbejde inden for tydelige rammer. Giv den afgrænsede input, bed den markere usikkerhed, kræv skel mellem fakta og forslag, og brug verificerbare kilder. Når svaret skal bruges eksternt eller i en beslutning, bør det gennemgås som andet materiale med mulig fejlrisiko.

For mange vidensopgaver er den største gevinst ikke, at AI altid har ret. Gevinsten er, at AI kan hjælpe dig hurtigere frem til de spørgsmål, afgrænsninger og udkast, som derefter kan kontrolleres. Den arbejdsdeling gør hallucinationer håndterbare uden at skjule dem.

Hvilke kilder ligger til grund?

Artiklen bygger især på NISTs beskrivelse af confabulation i Generative Artificial Intelligence Profile, den aktuelle vurdering af AI-systemers reliability challenges i International AI Safety Report 2026, grundpapiret om retrieval-augmented generation og forskningen i, hvorfor sprogmodeller kan blive belønnet for at gætte i Why Language Models Hallucinate.