Etiske overvejelser i brugen af AI i jura

Etiske overvejelser i brugen af AI i jura handler om at bruge teknologien som støtte til juridisk arbejde uden at svække retssikkerhed, fortrolighed, ansvar eller faglig vurdering. AI kan effektivisere analyse og dokumentarbejde, men mennesker skal kunne forklare, kontrollere og stå inde for resultatet.

Hvad betyder etiske overvejelser i juridisk AI-brug?

Etik i juridisk AI-brug handler ikke kun om, om et system virker teknisk. Det handler om, om brugen kan forenes med retssikkerhed, partsbeskyttelse, fortrolighed, saglighed og menneskeligt ansvar. Juridisk arbejde er ofte knyttet til konkrete personer, konflikter, rettigheder og frister, hvor en effektiv arbejdsgang ikke er nok i sig selv.

Den centrale skelnen går mellem AI som støtteværktøj og AI som beslutningsgrundlag. Et værktøj kan hjælpe med at sortere dokumenter, lave et udkast til en oversigt eller finde mønstre i store tekstmængder. Det etiske problem opstår, hvis outputtet behandles som en autoritativ juridisk vurdering uden kontrol, eller hvis systemets rolle bliver skjult for dem, der påvirkes af brugen.

Etiske overvejelser skal derfor flyttes fra abstrakte principper til konkrete arbejdsspørgsmål: Hvilke data sendes ind i systemet? Hvem kontrollerer svaret? Kan kilden efterprøves? Hvem bærer ansvaret? Og kan en part, klient, dommer, myndighed eller kollega forstå, hvordan AI har påvirket arbejdet?

Hvor kan AI hjælpe i juridisk arbejde uden at overtage ansvaret?

AI kan give værdi i juridiske opgaver, hvor formålet er klart, risikoen er afgrænset, og resultatet kan kontrolleres. Det kan være støtte til dokumentgennemgang, sagskronologier, intern videnssøgning, sproglig forenkling, kontraktudkast, resuméer af egne noter eller første sortering af store mængder materiale. I de tilfælde bør AI ses som et arbejdsredskab, ikke som en juridisk aktør.

Den etiske grænse afhænger især af, hvor tæt opgaven er på en afgørelse, en parts rettigheder eller en professionel vurdering. AI kan for eksempel hjælpe med at finde mulige temaer i et dokumentmateriale, men den bør ikke alene afgøre, hvilke oplysninger der er relevante for en strategi. Den kan foreslå formuleringer, men den kan ikke bære ansvaret for, om argumentet er korrekt, rimeligt og loyalt over for sagen.

AI Mentors tekst om AI til undersøgelse af domspraksis viser den praktiske spænding tydeligt: teknologi kan støtte søgning og struktur, men juridisk kildebrug kræver stadig menneskelig læsning, kontekstforståelse og kontrol mod primærkilder.

Hvilke juridiske opgaver er særligt følsomme?

Følsomheden stiger, når AI bruges i sager om mennesker, rettigheder, myndighedsudøvelse, strafferet, familieforhold, migration, socialydelser, erstatning, sundhed eller økonomisk betydende afgørelser. I sådanne situationer kan selv små fejl i data, vægtning eller fortolkning få stor praktisk betydning. Et etisk stærkt setup kræver derfor mere end almindelig brugerfornuft.

Opgaver med fortroligt materiale er også særligt følsomme. Det kan være klientoplysninger, intern processtrategi, forligsdrøftelser, dokumenter under tavshedspligt, personoplysninger eller oplysninger om modparter og vidner. Hvis materialet sendes til et eksternt AI-værktøj, skal organisationen kende vilkår for lagring, adgang, træning, logning og sletning. Uafklaret databrug kan gøre en ellers effektiv løsning uegnet.

Følsomhed handler også om asymmetri. Hvis en borger, klient eller modpart ikke ved, at AI indgår i en vurdering, kan vedkommende få sværere ved at forstå og anfægte grundlaget. Etisk brug kræver derfor en klar vurdering af, om AI kun støtter intern struktur, eller om den påvirker et udfald, en anbefaling eller en beslutning, som andre må indrette sig efter.

Hvordan beskytter man fortrolighed og personoplysninger?

Fortrolighed begynder med dataklassifikation. Før et juridisk dokument lægges ind i et AI-system, bør du afklare, om det indeholder personoplysninger, særlige kategorier af oplysninger, forretningshemmeligheder, fortrolig kommunikation, processtrategi eller materiale med begrænset adgang. Hvis svaret er ja, bør værktøjet kun bruges, hvis adgang, behandlingsgrundlag, lagring og sletning er dokumenteret.

GDPR gør især principper som formålsbegrænsning, dataminimering, korrekthed, integritet, fortrolighed og ansvarlighed relevante. I praksis betyder det, at juridiske organisationer ikke bør bruge flere oplysninger end nødvendigt, ikke bør genbruge data til uafklarede formål og bør kunne dokumentere, hvorfor et AI-værktøj indgår i behandlingen. Det gælder også, når AI-brugen føles som almindelig tekstbehandling.

En forsvarlig proces kan være at anonymisere eller pseudonymisere data, bruge lukkede miljøer med klare aftaler, begrænse adgang til saglige brugere og gemme beslutninger om databrug. AI Mentors gennemgang af generativ AI og datafortrolighed uddyber, hvorfor produktivitet og privatliv skal vurderes sammen, før materialet sendes til et system.

Hvorfor er menneskelig kontrol afgørende?

Menneskelig kontrol er ikke blot en afsluttende korrekturlæsning. Den skal være en reel mulighed for at forstå, teste, ændre og afvise AI-output. Hvis en jurist ikke kan forklare, hvorfor et forslag er rigtigt, eller hvilke kilder og antagelser det bygger på, er kontrollen for svag til juridisk brug. Det gælder især ved vurderinger, der kan påvirke en persons rettigheder eller en organisations ansvar.

I juridiske processer bør den ansvarlige person kunne svare på tre spørgsmål: Hvad har AI-systemet gjort? Hvad har mennesket selv vurderet? Og hvilke kontroller blev udført, før resultatet blev brugt? Uden den sondring kan ansvaret glide fra en konkret fagperson til et teknisk system, som ikke kan afhøres, begrunde sig eller bære professionelt ansvar.

EU AI Act fremhæver samme retning for visse højrisikosystemer. I retspleje og tilsvarende tvistløsning kan AI støtte arbejdet, men den endelige beslutningsproces må ikke erstattes af systemet. Den praktiske etik er derfor at designe AI-brug, så menneskelig dømmekraft ikke kun står på papiret, men faktisk styrer brugen.

Hvordan håndteres bias og skæv datadækning?

Bias i juridisk AI kan komme fra træningsdata, historiske afgørelser, søgedata, brugerens formuleringer eller systemets måde at vægte information på. Skævheden er ikke altid synlig som en åbenlys fejl. Den kan vise sig ved, at bestemte sagsområder, grupper, jurisdiktioner, sproglige varianter eller ældre kilder fylder for meget eller for lidt i outputtet.

I jura er bias særlig følsomt, fordi ligebehandling, begrundelse og proportionalitet er centrale hensyn i mange processer. Hvis et system foreslår risikovurderinger, prioriterer sager eller sammenfatter dokumenter, kan skæv datadækning påvirke, hvilke fakta og argumenter mennesker ser først. Derfor bør AI-output altid vurderes mod sagens konkrete materiale og ikke kun mod systemets interne sandsynlighed.

Praktiske modtræk er at teste værktøjet på kendte eksempler, kontrollere resultater på tværs af sagstyper, dokumentere begrænsninger og bruge flere kontrolkilder. AI Mentors tekst om håndtering af bias i AI beskriver den bredere tekniske udfordring, men i juridisk arbejde bliver den direkte koblet til fairness og retssikkerhed.

Hvad gør AI-hallucinationer særligt risikable i jura?

AI-hallucinationer er svar, citater eller forklaringer, der lyder plausible, men er forkerte eller uden sikker kildeforankring. I almindeligt kontorarbejde kan en sådan fejl være irriterende. I juridisk arbejde kan den ændre en vurdering, skabe et forkert procesgrundlag eller give en klient, borger eller beslutningstager et misvisende billede af gældende ret.

Risikoen er størst, når AI bruges til retskildesøgning, domsresumeer, citater, sammenligning af regler eller vurdering af juridiske argumenter. En model kan blande jurisdiktioner, gengive en kilde upræcist, overdrive betydningen af en afgørelse eller præsentere et mønster uden at have læst det relevante materiale. Det etiske svar er ikke at forbyde al brug, men at kræve kontrol mod originale retskilder og dokumenter.

En enkel regel er, at AI aldrig bør være sidste kildeled. Hvis et output bruges i et notat, et processkrift, en kontrakt, en afgørelse eller en klientkommunikation, skal den ansvarlige person kunne finde og læse den oprindelige kilde. Der bør også stå klart, om AI blot har hjulpet med at formulere tekst, eller om den har påvirket den juridiske analyse.

Hvordan påvirker EU AI Act juridiske AI-systemer?

EU AI Act er relevant, fordi den klassificerer AI-systemer efter risiko og opstiller strengere krav for højrisikosystemer. For jura er det væsentligt, at AI-systemer, der bruges af eller på vegne af en judiciel myndighed til at hjælpe med at undersøge og fortolke fakta og ret eller anvende retten på konkrete fakta, er placeret i højrisikokategorien. Tilsvarende kan visse systemer i alternativ tvistløsning være omfattet, når udfaldet har retsvirkning.

Det betyder ikke, at al juridisk brug af AI automatisk er højrisiko. Et internt værktøj til at omskrive en mødeagenda er noget andet end et system, der hjælper en myndighed med at anvende ret på en konkret sag. Den etiske pointe er dog bredere: jo tættere AI kommer på rettigheder, bevisvurdering, sagsudfald eller myndighedsbeslutninger, desto større krav bør der stilles til dokumentation, sporbarhed og kontrol.

For juridiske organisationer giver AI Act også et sprog for praktisk governance. Den taler blandt andet om risikostyring, datakvalitet, teknisk dokumentation, logging, information til brugere, menneskelig kontrol, robusthed, cybersikkerhed og nøjagtighed. Selv når et konkret værktøj falder uden for højrisikoreglerne, kan disse kategorier bruges som et struktureret etisk kontrolskema.

Hvordan kan en juridisk organisation dokumentere ansvarlig brug?

Ansvarlig dokumentation bør være enkel nok til at blive brugt i hverdagen og præcis nok til at kunne efterprøves. En organisation kan begynde med en intern oversigt over godkendte AI-værktøjer, tilladte datatyper, forbudte anvendelser, krav til kildekontrol og kontaktpunkter for sikkerhed, databeskyttelse og faglig kvalitet.

Dokumentationen bør knytte sig til den konkrete brug. Hvis AI kun er brugt til sproglig polering af en intern tekst uden fortrolige oplysninger, kan en let registrering være nok. Hvis AI derimod har hjulpet med at udvælge fakta, sammenfatte beviser, formulere en juridisk vurdering eller prioritere sager, bør formål, inputtype, værktøj, versionsdato, kontroltrin og ansvarlig person være tydelige.

AI-literacy er en del af dokumentationen, fordi kontrol kræver kompetence. Medarbejdere, der bruger juridiske AI-værktøjer, bør kende systemets begrænsninger, datarisici, typiske fejlkilder og interne regler. Uden uddannelse kan selv gode retningslinjer blive symbolske, fordi brugeren ikke kan se, hvornår et output kræver ekstra kontrol.

Hvilke kontrolpunkter bør bruges før et AI-værktøj tages i brug?

Et juridisk AI-værktøj bør vurderes før den første praktiske sag, ikke først efter at fejl er opstået. Kontrollen skal både dække værktøjets tekniske egenskaber og den arbejdsgang, hvor det skal indgå.

Kontrolpunkterne bør ikke behandles som en engangsøvelse. AI-værktøjer ændrer sig, datagrundlag opdateres, og organisationens brug kan glide fra administrativ støtte til juridisk analyse. Derfor bør værktøjer revurderes, når de får nye funktioner, nye brugergrupper eller nye opgaver med højere konsekvens.

Hvordan balanceres effektivitet og retssikkerhed i praksis?

Balancen begynder med en realistisk afgrænsning af, hvad AI kan gøre godt. AI kan være hurtig til at strukturere, sammenfatte, foreslå og sammenligne tekst. Den er ikke i sig selv en garanti for korrekt retlig vurdering, passende skøn, fair proces eller loyal håndtering af fortrolige oplysninger. Den bedste brug ligger derfor ofte i afgrænsede støtteopgaver med tydelig menneskelig kontrol.

En praktisk beslutningsrækkefølge kan være at starte med lavrisikoopgaver, dokumentere erfaringer, teste mod kendte fejl og først derefter udvide brugen. Hvis et værktøj skal indgå i arbejde med bevisvurdering, rettighedsafgørelser, klientrådgivning, processtrategi eller myndighedsbeslutninger, bør kravet til forklaring, databeskyttelse, logging og faglig ansvarlighed stige markant.

Etisk brug af AI i jura handler derfor ikke om at vælge mellem teknologi og tradition. Det handler om at placere teknologien i en arbejdsgang, hvor retssikkerhed kan forklares og kontrolleres. AI Mentors tekst om større retssikkerhed med AI beskriver den mulige gevinst, men gevinsten afhænger af, om systemer bruges med klare grænser og ansvar.

Hvilke kilder ligger til grund?

Artiklen bygger især på EUR-Lex-teksten til Regulation (EU) 2024/1689 om kunstig intelligens, EU-Kommissionens overblik over AI Act, EUR-Lex-teksten til GDPR-forordningen og EU’s Ethics guidelines for trustworthy AI.