Temperatur i AI-prompts er en indstilling, der styrer hvor forudsigeligt eller varieret en sprogmodel vælger næste token. Lav temperatur giver typisk mere stabile og fokuserede svar, mens højere temperatur giver mere variation, men også større risiko for upræcise eller uventede formuleringer.
Temperatur i AI-prompts styrer, hvor forudsigeligt eller varieret en sprogmodel vælger næste token. Lavere temperatur giver typisk mere stabile svar, mens højere temperatur kan give flere kreative variationer, men også større behov for faktatjek og systematisk test.
Hvad betyder temperatur i en sprogmodel?
Temperatur er en sampling-parameter. Den ændrer ikke, hvad modellen har lært, og den tilføjer ikke nye fakta. Den påvirker i stedet, hvordan modellen vælger mellem mulige næste tokens, når den producerer tekst. Et token kan være et helt ord, en del af et ord, et tegn eller et mellemrum afhængigt af modellen.
Når modellen skal fortsætte en tekst, beregner den sandsynligheder for mange mulige fortsættelser. Temperatur ændrer, hvor skarp eller flad den sandsynlighedsfordeling bliver. Lav temperatur gør de mest sandsynlige valg endnu mere dominerende. Højere temperatur giver mindre sandsynlige valg en større chance for at blive valgt.
Det er derfor temperatur ofte forklares som forskellen mellem præcision og kreativ variation. Forklaringen er nyttig, men den er for enkel. Temperatur styrer variation i tokenvalg, ikke kvalitet i sig selv. Et svar kan være korrekt ved høj temperatur og forkert ved lav temperatur, hvis opgaven, konteksten eller datagrundlaget peger i den retning.
Hvordan påvirker temperatur næste token?
Før et svar vises, ligger der en intern liste over mulige næste tokens med tilhørende sandsynligheder. Temperatur justerer fordelingen før udvælgelsen. Når temperaturen sænkes, bliver forskellen mellem de mest sandsynlige og de mindre sandsynlige tokens større. Når temperaturen hæves, bliver forskellen mindre.
Det betyder, at lav temperatur ofte giver gentagelige svar på samme input. Modellen vælger oftere det sikre næste token, fordi sandsynlighedsfordelingen bliver skarpere. Ved højere temperatur kan modellen vælge flere alternative formuleringer, analogier eller rækkefølger, fordi flere tokens får praktisk chance for at komme med.
OpenAI beskriver i sin API-reference temperatur som en værdi mellem 0 og 2, hvor lavere værdier gør output mere fokuseret og deterministisk, mens højere værdier gør output mere tilfældigt. Andre udbydere kan bruge andre anbefalinger, intervaller eller standardværdier, så tallet bør forstås i den konkrete modelkontekst.
Hvad sker der ved lav temperatur?
Lav temperatur passer bedst til opgaver, hvor stabilitet, ensartethed og præcision er vigtigere end variation. Det kan være klassificering, opsummering, udtræk af felter, omskrivning i fast tone, strukturerede svar eller kode, hvor du vil minimere unødvendige afvigelser. Ved meget lav temperatur kan svarene dog blive stive, korte eller gentage den mest oplagte formulering.
Hvis du arbejder med instruktioner, hvor svaret skal følge en bestemt skabelon, kan lav temperatur gøre output lettere at kontrollere. Det gælder især, når du kombinerer klare instruktioner med eksempler, afgrænsninger og et bestemt format. Indstillingen kan hjælpe, men den erstatter ikke tydelig opgavestyring.
Lav temperatur betyder heller ikke fuld determinisme i alle systemer. Serverindstillinger, parallel beregning, modelversioner, sikkerhedsfiltre og skjulte systemvalg kan stadig give variation. Hvis du kræver gentagelige produktionssvar, bør du teste den konkrete model og ikke kun stole på temperaturværdien.
Hvornår giver højere temperatur mening?
Højere temperatur giver mening, når du har brug for variation, flere vinkler eller mindre ensformige formuleringer. Det kan være ved idéudvikling, overskriftsforslag, alternative forklaringer, rollespil, kreative udkast, divergent problemløsning eller første fase af en analyse, hvor du hellere vil se flere muligheder end ét stramt svar.
Den praktiske fordel er, at modellen kan komme væk fra den mest forudsigelige formulering. Det kan give mere originale eksempler og bredere sprog. Ulempen er, at modellen også kan vælge mindre sandsynlige fortsættelser, som lyder flydende, men passer dårligere til opgaven eller til de faktiske oplysninger.
Ved opgaver med faglige fakta, tal, datoer, kildehenvisninger eller juridiske og tekniske konsekvenser bør højere temperatur bruges forsigtigt. Variation kan være nyttig i formuleringen, men den bør adskilles fra faktatjek. Hvis målet er korrekthed, bør du styre kilder, afgrænsning og verifikation tydeligt.
Hvorfor giver samme temperatur ikke samme resultat i alle modeller?
Temperatur er ikke en universel skala, der føles ens i alle systemer. Modeller har forskellige træningsdata, tokenisering, finjustering, sikkerhedslag, standardparametre og sampling-regler. En temperatur på 0,7 i én model kan derfor give en anden praktisk variation end 0,7 i en anden.
Google beskriver i Gemini-dokumentationen, at temperature, top_p og top_k styrer genereringen, men anbefaler at beholde standardværdierne for Gemini 3.x-modeller, fordi ændringer kan give uventet adfærd, især i komplekse matematiske eller ræsonnerende opgaver. Det viser, at udbyderens konkrete anbefalinger bør læses sammen med modeltypen.
En god arbejdsregel er derfor at teste temperatur i det miljø, hvor svaret faktisk skal bruges. Sammenlign flere output for samme opgave, vurder fejltyper og noter, om modellen bliver mere varieret på en nyttig måde eller bare mindre stabil. Tallet er et middel til kalibrering, ikke en garanti.
Hvordan hænger temperatur sammen med top-p og top-k?
Temperatur ændrer selve sandsynlighedsfordelingen. top-p og top-k ændrer derimod, hvilke kandidater modellen får lov til at vælge imellem. top-k begrænser valget til et fast antal af de mest sandsynlige tokens. top-p, også kaldet nucleus sampling, vælger den mindste gruppe af tokens, der tilsammen dækker en bestemt sandsynlighedsmasse.
OpenAI beskriver top_p som et alternativ til temperatur og anbefaler generelt at ændre enten top_p eller temperature, ikke begge. Grunden er praktisk: Hvis flere sampling-greb ændres på samme tid, bliver det sværere at forstå, hvorfor output ændrer sig. Det kan gøre fejlfinding og sammenligning mere usikker.
Hugging Face beskriver decoding strategies som den mekanisme, der afgør, hvordan næste token vælges. Greedy search vælger det mest sandsynlige token, mens sampling vælger tilfældigt fra en sandsynlighedsfordeling. Forskningen bag nucleus sampling viser, at selve decoding-metoden kan påvirke tekstkvalitet, gentagelse og variation, selv når modellen er den samme.
Hvordan vælger du temperatur til forskellige opgaver?
Den bedste temperatur afhænger af opgaven. Brug lavere temperatur, når svaret skal være stabilt, kort, struktureret eller faktatungt. Brug moderat temperatur, når svaret må have sproglig variation, men stadig skal holde sig tæt på instruktionen. Brug højere temperatur, når du bevidst ønsker mange alternative idéer eller uventede formuleringer.
| Opgave | Typisk retning | Kontrolpunkt |
|---|---|---|
| Dataudtræk eller klassificering | Lav | Matcher svaret det faste format? |
| Opsummering af kendt materiale | Lav til moderat | Er alle påstande forankret i inputtet? |
| Forklaringer og undervisning | Moderat | Bliver variationen klarere uden at ændre fakta? |
| Idéudvikling og kreative forslag | Moderat til høj | Får du brugbare alternativer frem? |
| Kode og teknisk fejlfinding | Lav til moderat | Kan output testes direkte? |
For mange arbejdsgange er det bedre at lave to trin end at finde én perfekt værdi. Først kan du bruge højere temperatur til at skabe muligheder. Derefter kan du bruge lavere temperatur til at sortere, strukturere eller omskrive det bedste materiale. Den opdeling gør variation og kontrol lettere at adskille.
Hvilke misforståelser skaber temperatur ofte?
En udbredt misforståelse er, at høj temperatur gør modellen mere kreativ på samme måde som et menneske. Mere præcist gør den tokenvalget mindre forudsigeligt. Det kan føre til kreative formuleringer, men også til løse forbindelser, overdrivelser eller irrelevante sidespor.
En anden misforståelse er, at lav temperatur altid giver sandere svar. Lav temperatur gør ofte svaret mere konsistent, men hvis den mest sandsynlige fortsættelse er forkert, kan lav temperatur gentage fejlen stabilt. Derfor bør faktuelle opgaver kontrolleres med kilder, tests eller inputbegrænsning.
En tredje misforståelse er, at temperatur kan reparere uklare AI-prompts. Hvis instruktionen er tvetydig, mangler data eller beder om noget umuligt, kan temperatur kun ændre variationen i svaret. Den løser ikke grundproblemet. For bedre styring bør du præcisere opgave, format, målgruppe, begrænsninger og vurderingskriterier.
Hvordan tester du temperatur systematisk?
En systematisk test bør ændre én parameter ad gangen. Vælg et lille sæt repræsentative opgaver, kør hver opgave flere gange ved forskellige temperaturer, og sammenlign output efter faste kriterier. Det kan være korrekthed, formatstabilitet, variation, længde, gentagelser, tone og behov for menneskelig redigering.
Du kan med fordel gemme de bedste og dårligste eksempler for hver opgavetype. Så bliver temperaturvalget en praktisk beslutning, ikke en fornemmelse. Testen bør gentages, når modelversionen, udbyderen, systeminstruktionen eller datagrundlaget ændres, fordi de faktorer kan ændre effekten af samme tal.
Ved arbejde med zero-shot og few-shot prompting bør temperatur testes sammen med eksemplernes kvalitet. Gode eksempler kan gøre output mere stabilt, mens dårlige eller blandede eksempler kan give mere uens svar, også ved lavere temperatur.
Hvad betyder temperatur for fakta og hallucinationer?
Temperatur påvirker sandsynligheden for alternative formuleringer, men den er ikke en sandhedsmåler. Ved højere temperatur kan modellen vælge mere uventede forbindelser, hvilket kan øge risikoen for faktuelle fejl i opgaver med svagt datagrundlag. Ved lavere temperatur kan modellen stadig formulere en fejlagtig, men meget sikker lydende forklaring.
Hvis du arbejder med fakta, bør temperatur kombineres med andre greb: brug kilder, begræns svaret til kendt materiale, bed om usikkerheder, test output og undgå at lade modellen opfinde tal eller datoer. Det er især relevant ved emner som AI-hallucinationer, hvor flydende sprog kan skjule manglende dokumentation.
For praktisk brug er lav til moderat temperatur ofte bedst til faktuelle svar, mens højere temperatur kan bruges til at finde vinkler, spørgsmål eller alternative forklaringer, der bagefter kontrolleres. Skellet mellem idéfase og verificeret svar er vigtigere end selve tallet.
Hvordan bruges temperatur i billed-, tekst- og kodeopgaver?
I tekstgenerering handler temperatur direkte om tokenvalg. I billedmodeller og multimodale systemer kan lignende begreber styre variation, men parametrene er ikke altid identiske på tværs af produkter. Nogle billedværktøjer bruger andre kontroller, såsom seed, guidance, stilvægt eller variation, og de bør ikke forveksles direkte med temperatur i sprogmodeller.
Ved billedrelaterede opgaver som Midjourney-prompts kan variation være en fordel, fordi flere visuelle retninger kan sammenlignes. Ved kode er situationen anderledes. Kode skal kunne køre, testes og vedligeholdes. Her er lavere temperatur ofte mere praktisk, fordi små variationer kan skabe fejl, selv når teksten ser plausibel ud.
Ved store sprogmodeller hænger temperatur også sammen med modelstørrelse, arkitektur og træning. En større model kan håndtere nogle opgaver mere robust, men parameterstørrelser i sprogmodeller fortæller ikke alene, hvilken temperatur der er bedst. Den rette værdi findes gennem opgaven, ikke modellen isoleret.
Hvordan kan du dokumentere et temperaturvalg?
Dokumentation behøver ikke være tung. Skriv hvilken model der er brugt, hvilken temperatur der er valgt, hvilke andre sampling-parametre der står på standardværdier, og hvilke opgavetyper valget gælder for. Notér også, om målet er stabilitet, variation eller en balance mellem de to.
For gentagne arbejdsgange kan en kort testtabel være nok. Den bør vise, hvilke værdier der blev prøvet, hvor mange eksempler der blev vurderet, og hvilke fejl der opstod. Hvis modellen bruges i produktion, bør du også registrere modelversion og dato, fordi udbydere kan ændre standarder, modeladfærd og anbefalinger over tid.
Dokumentationen gør det lettere at skifte model senere. Hvis du ved, at en temperatur blev valgt for at undgå gentagelser eller for at holde et fast format, kan du teste det samme mål i den nye model. Det er mere robust end at overføre tallet uden kontekst.
Hvilke kilder ligger til grund?
De tekniske beskrivelser af temperatur og top_p er kontrolleret mod OpenAI API-referencen for Responses og Gemini API-dokumentationen fra Google.
Forklaringen af decoding og sampling bygger også på Hugging Face Transformers-dokumentationen om generation strategies og forskningsartiklen The Curious Case of Neural Text Degeneration, der beskriver nucleus sampling og betydningen af decoding-strategier.