Kontekst betyder de instruktioner, data, eksempler og afgrænsninger, som en sprogmodel får med i samme opgave. Jo tydeligere konteksten er, desto bedre kan modellen afkode formål, målgruppe, format, kilder og begrænsninger uden at gætte på forhold, du ikke har specificeret.
Kontekst er det midlertidige arbejdsgrundlag, en sprogmodel bruger til at forstå mål, data, format og begrænsninger. Et klart input kan gøre svar mere relevante og kontrollerbare, mens for meget eller uklar kontekst kan skabe støj, forkerte antagelser og svagere kildebrug.
Hvad betyder kontekst i arbejdet med AI-instruktioner?
Kontekst er det midlertidige arbejdsgrundlag, en sprogmodel bruger, når den genererer et svar. Det kan være en rollebeskrivelse, en opgaveformulering, et dokumentuddrag, tidligere beskeder, eksempler, regler for stil eller oplysninger om, hvad svaret ikke må gøre. Kontekst er derfor ikke det samme som modellens generelle træningsviden.
Når du giver mere relevant kontekst, reducerer du afstanden mellem din egentlige opgave og modellens statistiske antagelser. Det gør især en forskel, når opgaven kræver et bestemt format, en bestemt målgruppe, en kendt terminologi eller en afgrænsning mellem fakta og vurdering.
Kontekststyring handler ikke kun om at skrive længere instruktioner. Det handler om at vælge de oplysninger, der ændrer svaret mest: formål, modtager, beslutningskriterier, datagrundlag, ønsket detaljeringsniveau og tydelige stopregler.
Hvorfor ændrer kontekst modellens svar?
Moderne sprogmodeller beregner deres svar ud fra mønstre i den tekstsekvens, de får som input. Transformer-arkitekturen, som blev beskrevet i forskningsartiklen Attention Is All You Need, bruger opmærksomhedsmekanismer til at vægte relationer mellem ord, tokens og tekstdele i sekvensen.
Det betyder, at en model ikke bare reagerer på det sidste spørgsmål. Den forsøger at fortolke spørgsmålet i lyset af de øvrige oplysninger i samme arbejdsrum. Hvis du skriver, at svaret skal være til en ny medarbejder, en teknisk leder eller en offentlig myndighed, ændrer du modellens sandsynlige valg af ord, detaljer og struktur.
Kontekst kan også hæmme svaret, hvis den er uklar. Modstridende krav, irrelevante tekststykker eller upræcise eksempler kan få modellen til at prioritere forkert. En kort og ren opgave kan derfor være bedre end en lang samling af løse oplysninger.
Hvilke oplysninger bør indgå i konteksten?
En brugbar kontekst giver modellen nok information til at vælge retning uden at overfylde opgaven. I praksis er der fem typer oplysninger, som ofte gør størst forskel.
- Formål: Hvad skal svaret bruges til, og hvilken beslutning skal det understøtte?
- Modtager: Hvem skal kunne forstå og handle på svaret?
- Datagrundlag: Hvilke fakta, citater, tal eller dokumenter må svaret bygge på?
- Afgrænsning: Hvad skal udelades, fordi det er irrelevant, usikkert eller uden for opgaven?
- Format: Skal outputtet være en tabel, en tjekliste, en forklaring, en mail eller en kort konklusion?
Hvis opgaven har høj faktuel risiko, bør konteksten også angive, hvordan usikkerhed skal håndteres. Du kan for eksempel bede modellen markere manglende oplysninger, skelne mellem dokumenteret fakta og fortolkning eller afstå fra at opfinde tal.
Hvordan adskiller kontekst sig fra træningsviden?
Træningsviden er de mønstre, modellen har lært under træning. Kontekst er derimod de oplysninger, der gives til den konkrete opgave. Den forskel er central, fordi kontekst kan være nyere, mere lokal og mere præcis end modellens generelle viden.
En model kan godt kende et fagområde uden at kende din organisations politik, datakilder, kundetyper eller terminologi. Hvis svaret skal passe til en konkret arbejdsgang, skal den lokale viden derfor med i opgaven eller hentes gennem et system, der kan forbinde modellen med relevante kilder.
Artiklen om grounding af AI-modeller forklarer denne kildeforbindelse nærmere. Grounding ændrer ikke modellens grundlæggende natur, men det kan forankre svar i verificerbare data og gøre kildekontrol lettere.
Hvordan påvirker kontekstvinduet arbejdet?
Kontekstvinduet er den mængde tekst, modellen kan have til rådighed under en generering. Det beskrives ofte i tokens, som er mindre tekstdele, modellen arbejder med. Du kan læse mere om begrebet i gennemgangen af tokenization og context windows.
Anthropic beskriver i sin dokumentation om kontekstvinduer, at et kontekstvindue fungerer som modellens arbejdsrum i en konkret samtale. Dokumentationen skelner samtidig mellem dette arbejdsrum og modellens træningsdata.
Et større vindue gør det muligt at sende længere dokumenter, flere eksempler og mere samtalehistorik. Det gør ikke automatisk svaret mere korrekt. Lange input kan indeholde støj, modstridende detaljer eller information, der ikke bliver brugt stabilt.
Hvorfor er mere kontekst ikke altid bedre?
Forskning i lange kontekster viser, at modeller ikke nødvendigvis bruger alle dele af et langt input lige godt. I studiet Lost in the Middle fandt forskerne, at performance kunne falde, når relevant information lå midt i lange input, selv for modeller designet til lange kontekster.
Den praktiske konsekvens er, at du ikke bør hælde alt tilgængeligt materiale ind i en opgave. Du bør kuratere materialet, fjerne dubletter, fremhæve nøgleoplysninger og placere afgørende krav tydeligt. Kvaliteten af konteksten betyder ofte mere end længden.
En god tommelfingerregel er at bruge lang kontekst til dokumentation og kort kontekst til styring. Store tekstmængder kan levere datagrundlag, men mål, format, prioritet og afgrænsning bør stå samlet og let at finde.
Hvordan kan du strukturere kontekst i en praktisk opgave?
En stabil struktur gør det lettere at genbruge og teste AI-instruktioner. Start med opgavens formål, fortsæt med nødvendig baggrund, angiv datakilder, og slut med outputkrav. Hvis rækkefølgen skifter fra gang til gang, bliver det sværere at se, hvorfor svarene ændrer sig.
- Skriv først målet med svaret i én sætning.
- Angiv modtager, kanal og ønsket detaljeringsniveau.
- Indsæt kun de kilder eller data, der faktisk skal bruges.
- Skriv klare begrænsninger, herunder hvad modellen ikke må antage.
- Angiv format, længde og eventuelle kvalitetskriterier til sidst.
Denne rækkefølge gør det nemmere at fejlfinde. Hvis svaret rammer forkert tone, justerer du modtager og kanal. Hvis det rammer forkert fakta, justerer du datagrundlaget. Hvis det rammer forkert form, justerer du outputkravene.
Hvordan hænger kontekst sammen med hallucinationer?
Hallucinationer opstår, når modellen genererer oplysninger, der lyder plausible, men ikke er faktuelt underbygget. Tydelig kontekst kan reducere risikoen, fordi modellen får et bedre datagrundlag og klarere rammer. Den kan dog ikke fjerne risikoen alene.
Google Cloud beskriver i sin oversigt over grounding, at grounding forbinder modeloutput med verificerbare informationskilder og kan reducere opdigtet indhold. Det kræver stadig, at kilderne er relevante, opdaterede og egnede til opgaven.
I opgaver med krav om korrekthed bør konteksten derfor indeholde en kildepolitik: Hvilke kilder må bruges, hvordan skal usikkerhed markeres, og hvornår skal modellen sige, at den mangler grundlag? Gennemgangen af AI hallucinationer uddyber de praktiske begrænsninger.
Hvordan prioriterer modellen forskellige instruktioner?
I systemer, hvor der findes flere instruktionslag, kan nogle beskeder have højere prioritet end andre. OpenAI beskriver i sin API-dokumentation om tekstgenerering, at udviklerbeskeder prioriteres over brugerbeskeder, mens modelgenererede beskeder har en anden rolle i samtalen.
For brugeren betyder det, at synlig kontekst ikke altid er hele styringslaget. En applikation kan have faste regler, formatkrav eller sikkerhedsbegrænsninger, som påvirker svaret. Hvis en model ikke følger en brugerbesked, kan årsagen være højere prioriterede instruktioner eller systemets sikkerhedsregler.
Det er også grunden til, at professionelle AI-workflows bør skelne mellem faste regler og variable opgavedata. Faste regler bør ligge stabilt i systemet, mens kundedata, dokumentuddrag eller opgaveparametre bør indsættes kontrolleret fra gang til gang.
Hvordan kan kontekst testes og forbedres?
Kontekst bør testes med repræsentative opgaver, ikke kun med et enkelt eksempel. Lav et lille testsæt med typiske, vanskelige og ufuldstændige opgaver. Sammenlign derefter, om modellen følger formatet, bruger de rigtige oplysninger, markerer usikkerhed og undgår antagelser.
En enkel forbedringsmetode er at ændre én del ad gangen. Juster først målet, derefter datagrundlaget, derefter afgrænsningen og til sidst formatet. Hvis du ændrer alt samtidig, bliver det uklart, hvad der faktisk forbedrede outputtet.
| Problem i svaret | Mulig årsag | Juster konteksten ved at |
|---|---|---|
| Svaret er for generelt | Mål og modtager er uklare | angive formål, læser og beslutningssituation |
| Svaret opfinder fakta | Datagrundlaget mangler eller er for åbent | indsætte kilder og kræve markering af usikkerhed |
| Svaret har forkert format | Outputkravet står for svagt | definere struktur, længde og felter tydeligt |
| Svaret overser vigtige detaljer | Relevant information drukner i lang tekst | forkorte, gruppere og fremhæve nøgledata |
Hvornår bør konteksten opdeles i flere trin?
En opgave bør opdeles, når inputtet er langt, når svaret kræver flere beslutninger, eller når kvaliteten afhænger af mellemkontrol. I stedet for at bede modellen løse alt på én gang kan du først få den til at udtrække fakta, derefter kontrollere usikkerhed og til sidst formulere output.
Opdeling er især nyttig ved analyse af dokumenter, kundesager, kode, kontraktudkast eller strategiske beslutninger. Hvert trin kan have sin egen kontekst og sit eget kvalitetskrav. Det gør processen mere gennemskuelig og lettere at revidere.
Hvis opgaven involverer flere værktøjer eller datakilder, bør konteksten også forklare, hvornår hvert værktøj skal bruges. I agentlignende workflows kan svag kontekst føre til unødige handlinger, for brede søgninger eller svar, der blander observationer og antagelser.
Hvilke fejl ses ofte ved brug af kontekst?
Den mest almindelige fejl er at give modellen en bred opgave uden formål. En anden fejl er at tilføje lange dokumenter uden at angive, hvilke dele der er vigtige. En tredje fejl er at bruge eksempler, som viser stil, men ikke beslutningslogik.
Der opstår også fejl, når brugeren forventer, at modellen husker oplysninger uden for den aktuelle samtale eller applikationens hukommelsesfunktion. Kontekst i en enkelt opgave er midlertidig. Hvis en organisation vil have stabil genbrug af viden, kræver det en kontrolleret datakilde, en søgeløsning eller en anden form for systematisk vidensstyring.
Endelig bør kontekst ikke bruges til at skjule manglende faglig kontrol. Hvis svaret har betydning for økonomi, sikkerhed, helbred, rettigheder eller offentlig kommunikation, skal der være en menneskelig eller teknisk kontrol uden for modellen.
Hvilke kilder ligger til grund?
Artiklen bygger på Vaswani et al.s forskningsartikel Attention Is All You Need, Anthropic-dokumentationen om kontekstvinduer, Liu et al.s studie Lost in the Middle, Google Clouds grounding-dokumentation og OpenAIs dokumentation om tekstgenerering.