Hvad er zero-shot og few-shot prompting?

Zero-shot prompting er en metode, hvor en AI-model får en opgave uden eksempler. Few-shot prompting giver modellen få eksempler for at guide den til det korrekte svarformat. Begge teknikker bruges til at styre store sprogmodellers output uden at skulle om-træne modellen.

Definition af Zero-Shot Prompting

Zero-shot prompting er den mest basale form for interaktion med en sprogmodel. Du stiller et spørgsmål eller giver en kommando direkte og forventer, at modellen forstår opgaven basennem sin eksisterende viden. Modellen har ikke fået nogen specifikke eksempler på, hvordan den ønskede output skal se ud, i selve prompten.

Den baserer udelukkende sit svar på de mønstre og informationer, den er blevet trænet på. En model som GPT-4 fra OpenAI er trænet på enorme mængder tekst og kan derfor håndtere en bred vifte af generelle opgaver uden forudgående eksempler.

Det kan sammenlignes med at spørge en velinformeret person om et emne, de har læst om, men aldrig er blevet specifikt testet i. Personen bruger sin generelle viden til at formulere et svar.

Denne tilgang fungerer bedst til simple og veldefinerede opgaver, hvor der ikke er behov for et bestemt format eller en særlig stil. For eksempel at bede om en opsummering af en artikel eller at oversætte en sætning. Udfordringen opstår, når opgaven er ny, kompleks eller kræver et meget specifikt output, da modellens fortolkning kan variere.

Definition af Few-Shot Prompting

Few-shot prompting er en teknik, hvor du giver sprogmodellen et par eksempler på den opgave, du vil have den til at løse, direkte i din prompt. Disse eksempler fungerer som en skabelon, der viser modellen, hvilket format, tone og indhold du forventer i svaret.

Ved at inkludere 1-5 eksempler (deraf navnet “few-shot”) lærer modellen opgaven “i kontekst”. Den justerer ikke sine grundlæggende parametre, men bruger eksemplerne som en rettesnor for den specifikke samtale. Dette øger præcisionen og forudsigeligheden af outputtet markant.

En god analogi er at lære et barn at genkende en ny type dyr. I stedet for blot at beskrive dyret, viser du et par billeder og siger “dette er en kat”. Når barnet derefter ser et nyt billede af en kat, kan det bruge de tidligere eksempler til at identificere den korrekt.

Denne metode er især effektiv til opgaver, der kræver en bestemt struktur, såsom dataekstraktion, sentiment-analyse eller at skrive produktbeskrivelser i en ensartet stil. Det er vores erfaring, at few-shot prompting er afgørende for at opnå pålidelige resultater i forretningskritiske applikationer.

Den praktiske forskel i prompten

Forskellen mellem de to metoder ligger udelukkende i, hvordan du strukturerer din prompt. Der er ingen teknisk ændring i selve AI-modellen.

En zero-shot prompt er direkte og uden eksempler. For eksempel: “Oversæt ‘hello world’ til dansk.”

En few-shot prompt indeholder derimod eksempler, der viser input-output-par.
Eksempel:
“Oversæt fra engelsk til dansk.
Engelsk: ‘see you later’
Dansk: ‘vi ses senere’

Engelsk: ‘how are you?’
Dansk: ‘hvordan har du det?’

Engelsk: ‘hello world’
Dansk:”

Modellen vil her genkende mønsteret og med høj sandsynlighed svare “hej verden”. Eksemplerne skaber en midlertidig kontekst, som guider modellens svar i den ønskede retning.

Anvendelsesmuligheder for Zero-Shot Prompting

Zero-shot prompting egner sig bedst til generelle og kreative opgaver, hvor der ikke er et enkelt korrekt svar, eller hvor formatet er underordnet. Det er en hurtig og effektiv metode til at få adgang til modellens brede viden.

Typiske anvendelsesområder inkluderer:

  • Brainstorming af idéer til en marketingkampagne.
  • Skrivning af et første udkast til en e-mail eller et blogindlæg.
  • Besvarelse af generelle vidensspørgsmål.
  • Simpel oversættelse af almindelige sætninger.
  • Opsummering af en nyhedsartikel for hurtigt overblik.

Metoden henvender sig primært til brugere, der har brug for hurtig assistance, inspiration eller et hurtigt svar uden krav om høj præcision eller et specifikt format. Det er et godt udgangspunkt for de fleste interaktioner med en AI assistent.

Anvendelsesmuligheder for Few-Shot Prompting

Few-shot prompting er ideel til opgaver, der kræver konsistens, præcision og et struktureret output. Ved at give eksempler kan du tvinge modellen til at levere resultater i et foruddefineret format, hvilket er essentielt i mange forretningsprocesser.

Denne teknik er særligt værdifuld inden for:

  • Sentiment-analyse: Klassificering af kundeanmeldelser som positive, negative eller neutrale.
  • Dataekstraktion: Udtrækning af specifik information som navne, adresser eller ordrenumre fra ustruktureret tekst.
  • Kategorisering: Sortering af support-tickets i relevante kategorier baseret på indholdet.
  • Specialiseret indholdsproduktion og SEO, hvor en bestemt tone of voice eller et specifikt format skal overholdes.

Denne metode er uundværlig for udviklere, dataanalytikere og virksomheder, der ønsker at integrere AI i automatiserede workflows, som for eksempel i automatisering af kundeservice, hvor pålidelighed er afgørende.

Fordele og ulemper ved metoderne

Valget mellem zero-shot og few-shot prompting afhænger af opgavens art og de krav, der stilles til resultatet. Begge metoder har klare fordele og ulemper.

Zero-shot prompting er hurtig og nem at anvende. Den kræver ingen forberedelse og er ideel til simple forespørgsler. Ulempen er, at resultaterne kan være upræcise og inkonsistente, især ved komplekse eller flertydige opgaver. Modellen kan “gætte” forkert på, hvad du egentlig ønsker.

Few-shot prompting giver markant højere præcision og kontrol. Du kan styre outputformatet ned i detaljen, hvilket gør metoden velegnet til automatisering. Ulempen er, at det kræver mere arbejde at formulere prompten med gode eksempler. Desuden bruger prompts med eksempler flere “tokens” (enhed for tekstlængde), hvilket kan gøre brugen af API’er dyrere.

Hvordan vælger man den rette metode?

En praktisk tilgang er at starte med den simpleste metode først. Begynd altid med en zero-shot prompt for at se, hvordan modellen håndterer opgaven. Hvis resultatet er tilfredsstillende og konsistent, er der ingen grund til at komplicere processen.

Hvis outputtet fra zero-shot prompten er upræcist, inkonsistent eller i et forkert format, er det tid til at skifte til few-shot prompting. Tilføj et eller to klare eksempler, der viser præcis, hvad du forventer. Ofte vil selv et enkelt godt eksempel (one-shot prompting) forbedre resultatet dramatisk.

For danske virksomheder, der ønsker at implementere AI, er det en central del af at forstå, hvad små virksomheder kan lære af AI-revolutionen. Pålideligheden, som few-shot prompting giver, er ofte en forudsætning for at kunne bygge en robust AI-agent til at håndtere forretningsprocesser.

Regulering og ansvar i en dansk kontekst

I Danmark og resten af EU er brugen af AI underlagt stigende regulering, herunder EU’s AI Act. Selvom prompting-teknikker som zero-shot og few-shot ikke direkte reguleres, er der fokus på de systemer, de anvendes i. For AI-systemer, der klassificeres som høj-risiko, stilles der krav om gennemsigtighed, robusthed og nøjagtighed.

Her spiller few-shot prompting en vigtig rolle. Ved at bruge veldefinerede eksempler kan virksomheder bedre dokumentere og kontrollere en AI-models adfærd, hvilket bidrager til at sikre et mere forudsigeligt og mindre fejlbehæftet output. Dette kan være med til at opfylde kravene i lovgivningen.

Ansvaret for AI-genereret indhold ligger hos den virksomhed eller person, der anvender teknologien. At mestre prompting-teknikker er derfor ikke kun et spørgsmål om effektivitet, men også om ansvarlighed. En dybere forståelse af, hvordan man styrer AI, er afgørende for at overholde fremtidig lovgivning som beskrevet i EU’s regelsæt for kunstig intelligens.