Hvad er grounding af AI-modeller?

Grounding af AI-modeller betyder, at en model kobles til verificerbare kilder, data eller værktøjer, før den svarer. Formålet er at gøre svar mere kontrollerbare, aktuelle og kildebaserede, men grounding er ikke en garanti for, at alle svar bliver korrekte.

Hvad betyder grounding i AI?

Grounding er en metode til at forankre en AI-models svar i noget uden for modellens indlærte mønstre. Det kan være dokumenter, databaser, søgeresultater, produktkataloger, interne retningslinjer eller andre kilder, som systemet må bruge til at danne et svar.

I generativ AI bruges begrebet især om systemer, der henter relevant information, lægger den ind i modellens kontekst og beder modellen formulere et svar ud fra det hentede materiale. Google Clouds dokumentation om grounding beskriver netop grounding som en kobling mellem modeloutput og verificerbare informationskilder.

Grounding er derfor ikke én bestemt modeltype. Det er en arkitektur eller arbejdsform, hvor modellen får et kontrolleret vidensgrundlag tæt på det konkrete spørgsmål.

Hvordan adskiller grounding sig fra almindelig modeltræning?

En almindelig sprogmodel bruger viden, mønstre og sammenhænge, som er indlejret i modellens parametre under træning. Den viden kan være bred, men den er ikke nødvendigvis opdateret, fuldstændig eller knyttet til en kilde, brugeren kan kontrollere.

Grounding tilfører derimod relevant information ved brugstid eller i applikationens pipeline. Modellen skal ikke nødvendigvis genoplæres for at bruge et nyt dokument, en opdateret politik eller en ny prisliste. Systemet kan hente den relevante information, give den til modellen og lade svaret bygge på den.

Forskellen er praktisk vigtig. Fine-tuning kan ændre modellens adfærd, stil eller domænetilpasning, mens grounding primært handler om at give modellen et aktuelt og kontrollerbart grundlag for den enkelte opgave.

Hvilke datakilder kan grounde en AI-model?

En AI-model kan groundes i mange typer kilder, men kilderne skal være egnede til formålet. En kundeserviceassistent kan bruge produktmanualer og returregler. Et analyseværktøj kan bruge tabeller, rapporter eller databaser. En intern medarbejderassistent kan bruge personalepolitikker, procesbeskrivelser og projektmateriale.

Kilden skal passe til spørgsmålet. En model, der er groundet i en forældet manual, kan stadig give et overbevisende, men forkert svar. Grounding begynder derfor med kildehygiejne, ikke med selve modellen.

Hvordan fungerer grounding med RAG?

Den mest udbredte tekniske metode er Retrieval-Augmented Generation, ofte forkortet RAG. Her søger systemet først efter relevante tekststykker eller data, før modellen formulerer svaret. En særskilt forklaring af Retrieval-Augmented Generation viser, hvorfor metoden er nært beslægtet med grounding.

Den oprindelige RAG-artikel af Lewis m.fl. beskrev en model, der kombinerer en prætrænet generativ model med ekstern ikke-parametrisk hukommelse. I moderne løsninger er den eksterne hukommelse ofte et søgeindeks, en dokumentdatabase eller en vektordatabase.

En typisk RAG-proces har fire led: dokumenter opdeles i mindre stykker, stykkerne gøres søgbare, brugerens forespørgsel matches med relevante stykker, og modellen skriver et svar ud fra det udvalgte materiale. Hvis ét led er svagt, bliver svaret også svagere.

Hvorfor er grounding ikke det samme som en sandhedsgaranti?

Grounding reducerer risikoen for frie opfindelser, men den kan ikke gøre en model fejlfri. Systemet kan hente den forkerte kilde, overse et vigtigt dokument, misforstå et tekststykke eller formulere et svar, der lyder mere sikkert end kilden tillader.

Derfor bør grounding vurderes som en kontrolmekanisme, ikke som et sandhedsstempel. Et godt grounded system gør det lettere at se, hvad svaret bygger på. Det gør også fejl mere sporbare, fordi du kan undersøge, om problemet lå i kilden, søgningen, udvælgelsen eller modellens formulering.

Den praktiske forskel er tydelig: Et ukontrolleret svar kan være svært at efterprøve. Et grounded svar bør kunne føres tilbage til bestemte kilder, men kilderne og brugen af dem skal stadig kontrolleres.

Hvad betyder grounding for AI-hallucinationer?

AI-hallucinationer opstår, når en model producerer indhold, der ikke stemmer med faktiske forhold, men stadig lyder plausibelt. Grounding kan mindske problemet, fordi modellen får relevante kilder tæt på svaret i stedet for kun at støtte sig til indlærte mønstre.

Det fjerner dog ikke alle hallucinationer. Hvis den hentede tekst er uklar, modstridende eller irrelevant, kan modellen stadig give et upræcist svar. Hvis systemet ikke viser kilder eller ikke tester svarene, kan brugeren få falsk tryghed.

For en dybere forklaring af fejlkategorien kan du læse om AI-hallucinationer. Grounding er et af flere værktøjer mod problemet, men det skal kombineres med evaluering, kildekontrol og klare grænser for, hvad systemet må svare på.

Hvilke tekniske led bestemmer kvaliteten?

Kvaliteten afhænger ikke kun af den generative model. Den afhænger også af, hvordan kilderne er forberedt, hvordan søgningen fungerer, og hvordan relevante resultater vælges. Microsoft beskriver i Azure AI Search-dokumentationen om RAG, at gode groundingdata kræver passende indhold, kloge forespørgsler og logik, der finder de bedste tekststykker.

Dokumenter opdeles ofte i mindre enheder, så systemet kan hente præcise afsnit i stedet for hele filer. Søgesystemet kan kombinere klassisk nøgleordssøgning med semantisk søgning, hvor tekststykker matches efter betydning. En vektordatabase bruges ofte til den semantiske del.

Et godt system har også ranking, filtrering og grænser. Det skal kunne frasortere irrelevante resultater, undgå at hente for meget materiale og respektere adgangsrettigheder. Grounding er derfor lige så meget informationsarkitektur som modelbrug.

Hvordan vurderer du kvaliteten af grounding?

Du kan vurdere grounding ved at teste hele kæden fra spørgsmål til svar. Start med at undersøge, om systemet henter de rigtige kilder. Fortsæt med at se, om svaret faktisk følger kilderne, eller om modellen lægger egne antagelser ovenpå.

• Kan svaret spores til konkrete kilder?
• Er kilderne aktuelle, autoritative og relevante for spørgsmålet?
• Skelner systemet mellem sikre fakta, usikre oplysninger og fravær af data?
• Bliver adgangsrettigheder håndhævet, når kilderne er interne?
• Kan fejl genskabes og undersøges gennem logs eller testcases?

Kvalitetstesten bør omfatte normale spørgsmål, randtilfælde og spørgsmål, hvor svaret ikke findes i kilderne. Den sidste type er særlig vigtig, fordi et grounded system skal kunne sige, at grundlaget mangler, i stedet for at konstruere et svar.

Hvilke sikkerheds- og datakrav følger med grounding?

Grounding kan gøre en AI-løsning mere kontrollerbar, men den kan også flytte følsomme data tættere på modellen. Hvis systemet bruger interne dokumenter, kundedata eller sagsoplysninger, skal adgang, logning, dataminimering og sletning tænkes ind fra begyndelsen.

Et centralt krav er, at modellen kun må hente data, brugeren eller systemrollen har ret til at se. Hvis en leder, medarbejder eller ekstern bruger stiller samme spørgsmål, kan de korrekte kilder være forskellige. Grounding uden adgangskontrol kan lække information, selv om modellen teknisk set svarer ud fra rigtige dokumenter.

NIST anbefaler i Generative AI Profile til AI Risk Management Framework blandt andet at verificere kilder og citationer, dokumentere begrænsninger og evaluere systemer under forhold, der ligner den faktiske brug. Det passer godt til grounding, fordi kilder, brugere og kontekst ændrer risikobilledet.

Hvornår er grounding bedre end fine-tuning?

Grounding er ofte bedst, når problemet handler om aktuel, organisationsspecifik eller kontrollerbar viden. Det gælder for eksempel interne procedurer, produktinformation, lov- eller standardhenvisninger, forskningsoversigter og spørgsmål, hvor svaret skal kunne efterprøves.

Fine-tuning er bedre egnet, når modellen skal lære et mønster, en klassifikation, en tone eller en opgavetype, som ikke kan løses ved at hente kilder alene. De to metoder kan også kombineres: en model kan være tilpasset en bestemt opgave og samtidig bruge grounding til aktuel viden.

Hvis du primært vil ændre, hvad modellen ved om bestemte dokumenter, er grounding normalt mere fleksibelt. Hvis du vil ændre, hvordan modellen løser en gentagen opgave, kan fine-tuning være mere relevant.

Hvilke fejl gør grounding svag i praksis?

Den hyppigste fejl er at fokusere på modellen og undervurdere kilderne. Hvis dokumenterne er ustrukturerede, forældede eller fulde af dubletter, henter systemet et dårligt grundlag. Modellen kan stadig skrive flydende tekst, men svaret bliver kun så godt som materialet og søgningen.

• For store tekststykker, så svaret bygger på upræcise brudstykker.
• For små tekststykker, så vigtig kontekst går tabt.
• Manglende metadata om dato, version, afdeling eller dokumenttype.
• Ingen test af spørgsmål, hvor kilderne ikke indeholder svaret.
• Manglende visning af kilder, så brugeren ikke kan kontrollere grundlaget.

En anden fejl er at måle systemet på få vellykkede eksempler. Grounding skal testes systematisk, fordi fejl ofte viser sig i tvetydige spørgsmål, sjældne emner, forældede dokumenter eller adgangsscenarier.

Hvordan hænger grounding sammen med sprogmodeller?

Grounding ændrer ikke den grundlæggende mekanisme i en sprogmodel. En moderne model, ofte bygget på en transformer-model, beregner stadig sandsynlige fortsættelser ud fra input og kontekst. Forskellen er, at konteksten nu indeholder udvalgte kilder, som svaret bør bygge på.

Det betyder, at grounding kræver klare instruktioner i selve systemdesignet: modellen skal prioritere de hentede kilder, undgå at udvide svaret ud over grundlaget og markere usikkerhed, når kilderne ikke dækker spørgsmålet. Uden sådanne grænser kan modellen blande kildebaseret information med generelle antagelser.

Grounding er dermed et samspil mellem retrieval, modelstyring og evaluering. Retrieval finder materialet, modellen formulerer svaret, og evalueringen kontrollerer, om svaret faktisk holder sig til materialet.

Hvordan kan grounding bruges i en organisation?

I en organisation kan grounding bruges til videnssøgning, support, intern dokumentation, rapportudkast, teknisk hjælp og beslutningsforberedelse. Den største nytte opstår, når kilderne er afgrænsede, opdaterede og ejet af nogen, der kan vedligeholde dem.

En praktisk arbejdsproces kan se sådan ud:

1. Vælg et afgrænset område, hvor kilderne er kendte og forholdsvis stabile.
2. Ryd op i dokumenter, metadata, versioner og adgangsrettigheder.
3. Byg et søge- eller retrieval-lag, der kan hente relevante brudstykker.
4. Test svar med kendte spørgsmål, ukendte spørgsmål og spørgsmål uden svar.
5. Vis kilder og usikkerhed tydeligt for brugeren.
6. Overvåg fejl, forældede kilder og ændringer i brugerbehov.

Grounding virker bedst, når ansvaret ikke placeres hos modellen alene. Der skal være ejere af kilderne, testansvarlige for systemet og klare regler for, hvornår et svar kræver menneskelig kontrol.

Hvilke kilder ligger til grund?

Artiklen bygger især på Google Clouds tekniske forklaring af grounding, Lewis m.fl.s RAG-artikel, Microsofts Azure AI Search-dokumentation, Amazon Bedrock Knowledge Bases og NISTs Generative AI Profile.

Kilderne er brugt til at afgrænse grounding som kobling til verificerbare kilder, forklare RAG som teknisk metode, beskrive retrieval-kvalitet og understøtte forbehold om test, kildekontrol og løbende overvågning.