Generativ AI i finanssektoren kan effektivisere dokumentarbejde, kundedialog, analyse og compliance, men teknologien skal styres som en kontrolleret risikofunktion. Den største værdi opstår, når modeller bruges med klare datagrænser, menneskelig kontrol, sporbarhed og regler for fejl, sikkerhed og tredjepartsafhængighed.
Generativ AI kan effektivisere finanssektorens dokumenter, analyse og kundedialog, men den bør behandles som en kontrolleret risikofunktion. Fokus ligger på muligheder, højrisiko-brug, DORA, leverandørafhængighed og de kontroller, der skal være på plads før teknologien bruges i drift.
Hvad betyder generativ AI i finanssektoren?
Generativ AI er modeller, der kan skabe tekst, kode, billeder, lyd eller strukturerede forslag ud fra instruktioner og data. I finanssektoren handler den mest praktiske brug ofte om tekst, dokumenter, søgning, analyseforberedelse og støtte til medarbejdere, ikke om at lade en model træffe finansielle beslutninger alene.
Teknologien kan for eksempel opsummere lange policer, forklare interne regler, skrive første udkast til kundebreve, finde relevante afsnit i en procedure, hjælpe med kode, udtrække temaer fra henvendelser eller forberede en sagsbehandler på en kompleks sag. Det gør generativ AI interessant for banker, forsikringsselskaber, betalingsudbydere, kapitalforvaltere og fintech-virksomheder.
Finanssektoren er samtidig et område, hvor fejl kan få direkte betydning for kunder, markeder og tillid. Derfor bør generativ AI forstås som en teknologi, der kræver tydelig AI-governance, ikke som en almindelig skriveassistent uden særlige kontrolpunkter.
Hvor opstår de mest realistiske muligheder?
De mest realistiske muligheder ligger i opgaver, hvor medarbejdere bruger meget tid på at læse, samle, omskrive eller kontrollere information. Generativ AI kan reducere friktion i arbejdsgange, hvor resultatet stadig skal vurderes af en fagperson, og hvor en fejl kan opdages, før teksten eller analysen påvirker kunden.
- Dokumentarbejde: udkast til interne notater, kundebreve, policy-opsummeringer og mødenoter.
- Videnssøgning: svarforslag baseret på godkendte interne dokumenter, produktvilkår og procedurer.
- Compliance-støtte: første sortering af sager, kontrolspørgsmål og sammenfatning af regelændringer.
- Kundeservice: forslag til svar, sprogtilpasning og forklaring af standardprocesser.
- Softwareudvikling: hjælp til test, dokumentation, kodegennemgang og fejlfinding under menneskelig kontrol.
Muligheden er størst, når AI-systemet arbejder med et afgrænset formål og kendte kilder. En model, der hjælper en medarbejder med at finde afsnit i et internt regelsæt, er lettere at kontrollere end en model, der frit vurderer en kundes økonomiske situation.
Hvordan adskiller generativ AI sig fra traditionel finansiel AI?
Finanssektoren har brugt statistiske modeller, machine learning og regelbaseret automatisering længe før de nyeste generative modeller. Kreditmodeller, svigdetektion, kapitalberegning, handelsalgoritmer og risikomodeller bygger ofte på strukturerede data, historiske observationer og matematiske mål for sandsynlighed eller afvigelse.
Generativ AI adskiller sig ved at arbejde mere fleksibelt med sprog, dokumenter og ustruktureret information. Den kan formulere et svar, forklare et begreb, omskrive en tekst eller samle oplysninger fra flere kilder. Det gør teknologien nyttig i vidensarbejde, men også sværere at kontrollere, fordi svaret kan lyde sikkert uden at være korrekt.
| Område | Traditionel finansiel AI | Generativ AI |
|---|---|---|
| Typisk input | Tal, transaktioner, historiske data og regler | Tekst, dokumenter, spørgsmål, tabeller og kode |
| Typisk output | Score, klassifikation, alarm eller prognose | Forklaring, udkast, opsummering eller svarforslag |
| Kontrolbehov | Modelvalidering, datakvalitet og performance-måling | Kildekontrol, hallucinationstest, adgangsstyring og menneskelig vurdering |
| Risiko ved fejl | Forkert score, svag prognose eller skjult bias | Overbevisende fejlinformation, datalækage eller uklar beslutningspåvirkning |
Hvilke data- og modelvalg afgør kvaliteten?
Kvaliteten afhænger ikke kun af modelnavnet. I finansielle arbejdsgange betyder datagrundlag, adgangskontrol, kildeafgrænsning og evalueringsmetode ofte mere end, om modellen kan skrive flydende. En generativ model kan formulere en god tekst på et svagt grundlag, og netop derfor skal systemet kunne vise, hvilke kilder svaret bygger på.
En udbredt metode er retrieval-augmented generation, hvor modellen henter relevante afsnit fra godkendte dokumenter, før den formulerer et svar. Retrieval-augmented generation kan gøre svar mere kontrollerbare, men det løser ikke alle problemer. Hvis kilden er forældet, forkert indekseret eller utilstrækkeligt afgrænset, kan svaret stadig blive misvisende.
Finansielle organisationer bør også skelne mellem offentlige data, interne ikke-følsomme data, fortrolige forretningsdata og personoplysninger. En løsning, der er acceptabel til generel tekstforbedring, er ikke nødvendigvis egnet til kundedata, transaktionshistorik, kreditoplysninger eller interne risikorapporter.
Hvornår bliver brugen højrisiko efter EU AI Act?
EU’s AI Act er relevant, fordi den klassificerer visse AI-systemer som højrisiko og lægger vægt på risikostyring, datastyring, dokumentation, gennemsigtighed og menneskelig kontrol. I finanssektoren er det især afgørende, om systemet påvirker en beslutning om en fysisk persons adgang til finansielle ressourcer, forsikring eller væsentlige vilkår.
I Annex III nævner AI Act blandt andet AI-systemer, der bruges til at vurdere kreditværdighed eller fastsætte kreditscore for fysiske personer, med undtagelse for systemer til at opdage finansiel svig. Den nævner også AI-systemer til risikovurdering og prissætning i livs- og sundhedsforsikring. Det betyder ikke, at al generativ AI i finans er højrisiko, men det betyder, at brugen skal klassificeres efter formål og beslutningspåvirkning.
En intern model, der hjælper en medarbejder med at skrive et neutralt udkast, har en anden risikoprofil end et system, der bidrager til afslag, prissætning eller individuel risikovurdering. Derfor bør et AI-projekt tidligt afklare, om teknologien kun producerer tekst, eller om den reelt påvirker en beslutning om en person. Begrebet EU AI Act bør i den sammenhæng forstås som en risikoklassifikation, ikke som et generelt forbud mod AI i finans.
Hvordan påvirker DORA brugen af AI-tjenester og cloud?
DORA, EU’s forordning om digital operationel modstandsdygtighed i finanssektoren, gælder fra 17. januar 2025. Den handler ikke specifikt om generativ AI, men den er relevant, når AI-løsninger leveres som cloudtjenester, API’er, integrerede systemer eller andre ICT-tjenester. Mange generative AI-projekter afhænger netop af eksterne modeludbydere, dataplatforme, søgeindeks og cloudinfrastruktur.
DORA kræver, at finansielle enheder styrer ICT-risiko og tredjepartsrisiko som en integreret del af deres risikostyring. For generativ AI betyder det, at leverandørvalg ikke kun handler om modelkvalitet. Det handler også om kontrakt, logging, dataplacering, underleverandører, exit-planer, incident-håndtering, kontinuitet og mulighed for tilsyn.
Hvis en AI-løsning understøtter en kritisk eller vigtig funktion, bliver afhængigheden af leverandøren mere central. En chatbot til intern sproghjælp er ikke det samme som et system, der indgår i betalingsdrift, skadebehandling eller kreditproces. DORA gør den forskel praktisk, fordi kravene til robusthed følger funktionens betydning og risikoniveau.
Hvilke risici skaber hallucinationer og forklarbarhed?
Generativ AI kan producere svar, der er sprogligt overbevisende, men faktuelt forkerte. I finanssektoren kan det føre til forkerte produktforklaringer, misvisende risikobeskrivelser, fejlagtige sammenfatninger af kundedata eller utilstrækkelig dokumentation. Fejlene bliver sværere at opdage, når teksten er velformuleret og passer til den forventede tone.
Forklarbarhed er derfor ikke kun et teknisk emne. Den afgør, om en medarbejder kan se, hvorfor et svar blev givet, hvilke kilder der blev brugt, og hvor usikkerheden ligger. Explainable AI er særligt relevant, når AI indgår i beslutningsstøtte, klagebehandling, kontrol eller dokumentation over for tilsyn.
En praktisk risikogrænse er at adskille formuleringsstøtte fra beslutningsstøtte. Hvis modellen kun hjælper med at skrive en tekst, kan kontrollen fokusere på kildegrundlag, tone og fortrolighed. Hvis modellen påvirker vurderingen af en kunde, et krav, en transaktion eller en risiko, skal der være stærkere krav til test, dokumentation, menneskelig kontrol og ansvar.
Hvordan kan banker og forsikringsselskaber styre tredjepartsrisiko?
Generativ AI leveres ofte gennem eksterne udbydere. Det kan være modeludbydere, cloudplatforme, databehandlere, søgetjenester, analyseværktøjer eller systemintegratorer. Risikostyringen bør derfor følge hele kæden, ikke kun den synlige brugerflade.
En finansiel organisation kan begynde med at kortlægge, hvilke data der sendes til leverandøren, hvor data behandles, hvem der kan tilgå logs, om input bruges til træning, og hvordan systemet kan lukkes ned eller erstattes. Den bør også teste, om modellen ændrer adfærd efter opdateringer, og om leverandøren kan dokumentere sikkerhed, driftsstabilitet og hændelsesprocesser.
Tredjepartsrisiko hænger også sammen med koncentration. Hvis mange finansielle virksomheder bruger de samme få model- eller cloudleverandører, kan en teknisk fejl, en ændret servicevilkår, et sikkerhedsbrud eller en modelopdatering få bredere effekt. FSB’s 2026-konsultation peger netop på, at ansvarlig AI-adoption bør omfatte cyber-, ICT- og tredjepartsrisici, ikke kun modelperformance.
Hvordan kan teknologien bruges uden at svække kundebeskyttelsen?
Kundebeskyttelse afhænger af, om AI bruges til at forklare, støtte eller afgøre. En model, der hjælper med at omskrive et svar i klart sprog, kan forbedre kommunikationen. En model, der selv finder begrundelsen for et afslag eller vælger, hvilke oplysninger en kunde skal se, kræver langt stærkere kontrol.
Der er tre enkle skel, som gør forskellen tydeligere:
- Tekststøtte: AI hjælper med formulering, men ændrer ikke vurderingen.
- Analysehjælp: AI samler materiale, men en fagperson vurderer resultatet og dokumenterer beslutningen.
- Beslutningspåvirkning: AI ændrer eller anbefaler udfald, vilkår, prioritet eller risikoklassifikation.
Jo tættere systemet kommer på beslutningspåvirkning, desto større bliver behovet for dokumenteret datakvalitet, test mod bias, klageveje, sporbarhed og forklaring. Det gælder især, når brugen kan påvirke kredit, forsikring, adgang til produkter, kundekategorisering eller behandling af sårbare kunder.
Hvad bør du kontrollere før et AI-projekt sættes i drift?
Et AI-projekt i finanssektoren bør ikke begynde med en modeldemo. Det bør begynde med en klar beskrivelse af formål, data, brugergruppe, beslutningspåvirkning og kontrolpunkt. Hvis formålet er uklart, bliver det næsten umuligt at teste, om løsningen fungerer sikkert.
- Afklar, om systemet kun hjælper med tekst, eller om det påvirker en beslutning.
- Klassificer data: offentlige, interne, fortrolige, personoplysninger eller særligt følsomme oplysninger.
- Fastlæg, hvilke kilder modellen må bruge, og hvordan kilderne holdes opdaterede.
- Test svarkvalitet på realistiske sager, inklusive fejl, uklare spørgsmål og grænsetilfælde.
- Dokumenter menneskelig kontrol, ansvar, logs, fejlrapportering og eskalation.
- Vurder leverandør, underleverandører, kontrakt, exit-plan og driftsafhængighed.
- Beslut, hvilke svar der aldrig må sendes direkte til kunder uden manuel gennemgang.
Denne rækkefølge gør teknologien mere praktisk at styre. Den hjælper også med at skelne mellem et lavrisiko-værktøj til intern effektivitet og et system, der kan kræve juridisk, compliance-mæssig og teknisk vurdering før drift.
Hvad betyder udviklingen for organisationer i Danmark?
For organisationer i Danmark er generativ AI i finanssektoren især et spørgsmål om europæisk regulering, databeskyttelse, outsourcing og tillid. Mange finansielle aktører er allerede vant til risikostyring, tilsyn og dokumentation, men generativ AI flytter nogle kontrolpunkter tættere på daglig drift og vidensarbejde.
Medarbejdere kan få hurtigere adgang til viden og bedre udkast, men organisationen skal undgå uformel brug uden fælles rammer. Shadow AI kan opstå, hvis medarbejdere bruger eksterne værktøjer til fortrolige oplysninger, fordi de officielle værktøjer er for langsomme, uklare eller utilgængelige.
Den praktiske opgave er derfor at skabe sikre kanaler for legitim brug. Det kan være godkendte interne assistenter, klare dataklasser, træning i kildekritik, fælles regler for kundetekst og en enkel måde at rapportere fejl på. Finansielle organisationer behøver ikke behandle al AI-brug ens, men de bør kunne forklare, hvorfor en bestemt brug er tilladt, begrænset eller afvist.
Hvilke begrænsninger bør ikke overses?
Generativ AI kan ikke erstatte fagligt ansvar. Den kan hjælpe med at formulere, sortere og samle information, men den forstår ikke finansielle konsekvenser på samme måde som en ansvarlig medarbejder, en modelvalidator eller en beslutningstager. Den kan også være følsom over for uklare instruktioner, ufuldstændige kilder og skjulte antagelser.
Modeller ændrer sig desuden over tid. En leverandør kan opdatere en model, justere sikkerhedsfiltre, ændre svartone eller flytte funktioner mellem produkter. Derfor bør test ikke kun ske ved indkøb. Der bør være løbende kontrol, især hvis systemet bruges i kundevendte eller regulatorisk følsomme processer.
Den største begrænsning er ofte organisatorisk. Hvis ansvar, datagrænser og eskalation ikke er aftalt, kan selv en teknisk stærk model skabe usikkerhed. Hvis rammerne er klare, kan generativ AI derimod blive et nyttigt værktøj til at gøre finansielle arbejdsgange hurtigere, mere konsistente og lettere at dokumentere.
Hvilke kilder ligger til grund?
Artiklen bygger især på Financial Stability Boards aktuelle AI-konsultation om ansvarlig adoption i finansielle institutioner, EU’s AI Act, EU’s DORA-forordning og NIST’s AI Risk Management Framework. Kilderne er brugt til at kontrollere påstande om risikostyring, højrisiko-AI, digital operationel modstandsdygtighed og generativ AI-governance.