Generativ AI og Datafortrolighed: Balancen mellem Innovation og Privatliv

Generativ AI kan skabe værdi uden at bryde datafortrolighed, når input, filer, logning, træning og adgangsstyring behandles som en samlet risikokæde. Balancen opstår ved at bruge mindst mulige følsomme data, vælge passende driftsmodel og dokumentere, hvem der må se, gemme, genbruge og handle på oplysningerne.

Hvad betyder datafortrolighed i generativ AI?

Datafortrolighed handler om at beskytte oplysninger mod uautoriseret adgang, uønsket deling og uklar genbrug. I generativ AI bliver spørgsmålet bredere end selve tekstfeltet, fordi oplysninger kan indgå i uploadede filer, samtalehistorik, fejlretning, logning, databehandling hos en leverandør, søgeindeks, finjustering og automatiserede handlinger i andre systemer.

Generativ AI skaber nyt indhold ud fra mønstre i data. Den kan skrive tekst, strukturere dokumenter, opsummere sager, foreslå kode, analysere billeder eller hjælpe med beslutningsforberedelse. Den funktion er nyttig, men den ændrer ikke ved, at oplysninger stadig skal klassificeres, begrænses og styres efter formål, følsomhed og adgangsbehov.

Fortrolighed bør derfor ses som et designvalg. Du kan godt bruge generativ AI til idéudvikling, kvalitetstjek, udkast, oversættelse og analyse uden at sende kundedata, medarbejderoplysninger, interne forhandlinger eller forretningshemmeligheder med. Den gode balance ligger i at adskille opgaven fra de oplysninger, der ikke behøver at indgå.

Hvor opstår risikoen i arbejdsgangen?

Risikoen opstår ofte før modellen svarer. Den første datavej er brugerens input og filer. Den anden er leverandørens behandling, herunder logning, support, fejlretning, misbrugsforebyggelse og eventuel brug til forbedring af modeller. Den tredje er organisationens egne integrationer, hvor AI-systemet kan hente data fra e-mail, dokumentlagre, CRM, databaser eller interne søgeværktøjer.

En fjerde datavej er outputtet. Et svar kan gengive følsomme oplysninger fra inputtet, kombinere oplysninger på en uventet måde eller blive sendt videre til modtagere, der ikke burde se dem. Hvis AI bruges i kundeservice, HR, sagsbehandling eller udviklingsmiljøer, bør output derfor behandles som et nyt dokument med samme krav til adgang, journalisering og kvalitet som manuelt udarbejdet materiale.

AI-risikoen bliver større, når flere led kobles sammen. En simpel chat med begrænset tekst er én situation. En agent med adgang til kalender, dokumenter, kundeprofiler og eksterne systemer er en anden. Jo flere systemer modellen kan læse fra eller skrive til, desto mere skal fortrolighed styres gennem roller, rettigheder, logning og godkendelser.

Hvilke oplysninger bør ikke sendes til en ekstern AI-tjeneste?

En praktisk hovedregel er, at eksterne AI-tjenester kun bør modtage oplysninger, som er nødvendige for den konkrete opgave, og som du har hjemmel, aftalegrundlag og sikkerhedsmodel til at dele. Det gælder især, når tjenesten drives uden for organisationens egen kontrollerede infrastruktur.

Dataklassifikation må ikke blive en skrivebordsøvelse. Hvis medarbejdere bruger generativ AI i praksis, skal de kunne genkende konkrete situationer: en kundemail med klagehistorik, en kontrakt med priser, en lønsag, en udbudsvurdering eller et logudtræk med IP-adresser. Her hjælper korte regler mere end lange principper.

Hvordan adskiller almindelig brug sig fra træning og finjustering?

Almindelig brug betyder, at en model modtager input og returnerer et svar i en session eller via en API. Træning betyder, at data bruges til at ændre en model bredt. Finjustering betyder, at en eksisterende model tilpasses med et bestemt datasæt. De tre situationer har forskellige risici, fordi datalagring, formål, varighed og adgang kan være forskellige.

En bruger kan tro, at slettet tekst i en samtale også er slettet fra alle underliggende systemer. Det er ikke en sikker antagelse. Leverandørens vilkår, produktindstillinger og databehandleraftaler afgør typisk, hvad der gemmes, hvor længe det gemmes, hvem der kan tilgå det, og om det må bruges til forbedring af tjenesten.

Ved finjustering og egne vidensbaser bliver ansvaret mere direkte. Hvis en organisation uploader interne sager, kundedokumenter eller supporthistorik for at forbedre svar, skal dataminimering, sletning, adgangsstyring og test være indbygget fra starten. Det samme gælder, når data omdannes til embeddings i en vektordatabase, fordi disse repræsentationer stadig kan afspejle fortroligt indhold.

Hvad betyder GDPR og EU’s AI-forordning for brugen?

GDPR gælder, når generativ AI bruges til at behandle personoplysninger. Det omfatter ikke kun navne og kontaktoplysninger, men også oplysninger, der indirekte kan knyttes til en person. Behandlingen skal have et formål, et grundlag, passende sikkerhed, dataminimering og mulighed for at håndtere registreredes rettigheder.

EDPB har i sin rapport om ChatGPT-taskforcen understreget, at store sprogmodeller kan behandle personoplysninger, og at teknisk kompleksitet ikke i sig selv fjerner GDPR-ansvar. Rapporten skelner også mellem indsamling af træningsdata, forbehandling, træning, brugerinput, output og brug af brugerindhold til yderligere træning.

EU’s AI-forordning, Regulation (EU) 2024/1689, er et særskilt AI-reguleringslag, der blandt andet handler om risikostyring, gennemsigtighed og beskyttelse af grundlæggende rettigheder. Den gør ikke GDPR overflødig. For organisationer betyder det, at AI-governance og databeskyttelse bør hænge sammen i samme proces, især når en løsning bruges i følsomme eller beslutningsnære arbejdsgange.

For en mere grundlæggende forståelse af databehandling kan begrebet dataprocessering hjælpe med at adskille indsamling, lagring, transformation, analyse og deling. Den opdeling er nyttig, fordi generativ AI sjældent kun består af én enkel behandling.

Hvordan kan innovation fortsætte med færre følsomme data?

Innovation kræver ikke altid adgang til de mest følsomme oplysninger. Mange AI-opgaver kan løses med abstrakte problemformuleringer, syntetiske eksempler, anonymiserede datasæt, offentligt materiale eller stærkt reducerede udsnit. Målet er ikke at gøre arbejdet langsommere, men at fjerne data, som ikke bidrager til svaret.

En organisation kan ofte starte med tre niveauer. Først bruges åbne eller ufølsomme data til idéer, skabeloner og struktur. Derefter bruges pseudonymiserede eller generaliserede data til analyse af mønstre. Til sidst bruges følsomme eller identificerbare oplysninger kun i godkendte miljøer med dokumenteret behov, rollebaseret adgang og klare slettefrister.

Den tilgang giver plads til eksperimenter uden at gøre alle forsøg til højrisikobehandling. Et HR-team kan teste stillingsopslag uden ansøgerdata. Et supportteam kan udlede svarkategorier fra anonymiserede henvendelser. En udviklergruppe kan fejlfinde kode uden at indsætte produktionsnøgler, kundelogfiler eller interne sikkerhedsdetaljer.

Hvilke tekniske kontroller reducerer risikoen?

Tekniske kontroller bør vælges efter dataklasse og brugssituation. Nogle kontroller begrænser, hvad der sendes til modellen. Andre begrænser, hvad modellen kan hente, gemme eller sende videre. En tredje gruppe handler om at opdage fejl, misbrug og uventede datalæk efter ibrugtagning.

• Dataminimering i brugerfladen, så medarbejdere kun indtaster nødvendige oplysninger.
• Automatisk maskering af personnumre, adgangsnøgler, e-mailadresser, sagsnumre og andre mønstre før behandling.
• Rollebaseret adgang til vidensbaser, så AI-systemet kun kan hente dokumenter, brugeren selv må se.
• Logning af forespørgsler, datakilder, modelvalg og handlinger uden at skabe nye unødvendige datakopier.
• Godkendelsesflow, før AI-systemet sender beskeder, ændrer poster, bestiller varer eller overfører data.

Kontrollerne bør kombineres med almindelig sikkerhedsdisciplin. Det omfatter patching, leverandørstyring, adgangsrevision, nøglehåndtering, kryptering, backup, hændelsesberedskab og test af integrationer. Generativ AI ændrer ikke de klassiske krav, men den kan gøre kæden længere og mere uigennemsigtig.

NIST beskriver dataprivacy og informationssikkerhed som centrale risici i generativ AI. OWASPs 2025-oversigt for LLM-applikationer peger tilsvarende på følsom informationsafsløring, forsyningskæder, forgiftning af data eller model, svagheder i embeddings og overdreven agentadgang. Det gør tekniske kontroller relevante både for privatliv, sikkerhed og drift.

Hvordan bør leverandørvilkår og indstillinger vurderes?

Leverandørvalg bør ikke kun handle om modelkvalitet. For datafortrolighed er det afgørende, hvordan tjenesten behandler input, filer, metadata, logfiler og output. To tjenester med samme modelnavn kan have forskellige vilkår afhængigt af, om de bruges som forbrugerprodukt, teamløsning, enterprise-løsning, API eller lokalt hostet model.

En vurdering bør mindst dække disse spørgsmål:

• Bruges kundens input eller filer til træning eller forbedring af modeller?
• Hvor lagres data, og hvilke underleverandører kan behandle dem?
• Hvor længe gemmes indhold, logfiler og metadata?
• Kan organisationen slå historik, modeltræning eller datadeling fra?
• Findes der databehandleraftale, revisionsmateriale og dokumentation for sikkerhedskontroller?

Svarene bør gemmes sammen med formålet med brugen. Hvis en løsning senere kobles til flere datakilder, får nye brugergrupper eller ændrer vilkår, skal vurderingen genbesøges. Datafortrolighed er ikke en engangsgodkendelse; den følger løsningen, når den skifter funktion.

For brugere af populære værktøjer er det også relevant at kende forskellen mellem almindelig chatbrug og kontrollerede arbejdsopsætninger. En oversigt over sikkerhed og privatliv i ChatGPT kan være et praktisk udgangspunkt for de spørgsmål, der også bør stilles til andre leverandører.

Hvad ændrer søgeforankret AI og automatiserede agenter?

Søgeforankret AI kombinerer en generativ model med dokumenter, databaser eller søgeindeks. Det kan give mere relevante svar, men det flytter fortrolighedsrisikoen fra selve modellen til hele datalaget omkring den. Hvis en medarbejder ikke må læse et dokument, bør AI-systemet heller ikke kunne bruge dokumentet som svargrundlag for medarbejderen.

Vektordatabaser skaber et ekstra kontrolpunkt. De gemmer matematiske repræsentationer af tekststykker, så systemet kan finde relevante passager. Det gør søgning effektiv, men sletter ikke nødvendigvis forbindelsen til fortroligt indhold. Adgangsstyring, sletteprocesser og opdatering af indeks skal derfor følge de underliggende dokumenters rettigheder.

Automatiserede agenter øger kravene yderligere, fordi de ikke kun svarer, men kan planlægge og udføre handlinger. Hvis en agent kan læse kundedata, skrive i CRM, sende e-mails og oprette sager, skal den have snævre rettigheder, tydelige stopregler og menneskelig godkendelse ved følsomme handlinger. Ellers kan en fejlfortolkning blive til en reel datadeling.

Her er risikostyring i AI-implementeringer mere nyttig end brede principper alene. Du skal kunne se, hvilke datakilder AI-systemet bruger, hvilke handlinger det kan udføre, og hvilke hændelser der udløser manuel kontrol.

Hvordan kan output kontrolleres uden at udstille følsomme oplysninger?

Outputkontrol handler både om kvalitet og fortrolighed. Generativ AI kan formulere svar sikkert og overbevisende, selv når svaret er upræcist, ufuldstændigt eller baseret på en forkert sammenkobling. Hvis output indeholder personoplysninger, interne vurderinger eller fortrolige fakta, bør det ikke sendes videre uden kontrol.

Kontrollen bør tilpasses anvendelsen. Et idékatalog kræver mindre kontrol end et svar til en kunde, et beslutningsnotat eller en teknisk ændring i et produktionssystem. Ved følsomme anvendelser bør du kontrollere både faktuel korrekthed, kildegrundlag, adgangsret, tone, modtager og om output afslører mere end opgaven kræver.

AI-hallucinationer er relevante for datafortrolighed, fordi opdigtede eller forkerte oplysninger om personer kan skade både kvalitet og rettigheder. En særskilt forklaring af AI-hallucinationer viser, hvorfor kontrol af svar ikke kun er et spørgsmål om sproglig korrektur.

En god outputproces kan være enkel: marker følsomme datatyper, kræv menneskelig godkendelse før ekstern afsendelse, log beslutninger, og lad brugeren se hvilke interne kilder der blev brugt. Dermed bliver AI en assistent i arbejdsgangen, ikke en usynlig genvej uden ansvar.

Hvilken beslutningsrækkefølge kan en organisation bruge?

En praktisk rækkefølge gør balancen lettere at styre. Den bør begynde med opgaven, ikke med værktøjet. Hvis formålet er uklart, bliver det også uklart, hvilke data der er nødvendige, hvem der må behandle dem, og hvor længe de må gemmes.

1. Definer den konkrete opgave og afgræns, hvad AI-systemet ikke må bruges til.
2. Klassificer data som offentlige, interne, fortrolige, personhenførbare eller følsomme.
3. Vælg driftsmodel: offentlig tjeneste, kontraktligt afgrænset cloud, privat instans, lokal model eller ingen AI.
4. Fjern eller pseudonymiser oplysninger, der ikke er nødvendige for svaret.
5. Kontroller leverandørvilkår, databehandleraftaler, logning, sletning og underleverandører.
6. Begræns adgang til datakilder og handlinger efter rolle og formål.
7. Test med realistiske, men ufølsomme eksempler, før løsningen møder produktionsdata.
8. Overvåg fejl, datalæk, uventede svar og ændringer i leverandørens funktioner.

Denne rækkefølge passer til både små teams og større organisationer. Forskellen ligger i dokumentationsniveauet. En enkelt afdeling kan bruge en kort tjekliste, mens en offentlig myndighed eller en reguleret virksomhed ofte har brug for mere formel risikovurdering, databeskyttelsesvurdering og revisionsspor.

Tekniske krav bør kobles til sikkerhedspraksis. En bredere gennemgang af sikkerhedsforanstaltninger for AI-drevne systemer kan bruges til at oversætte beslutningsrækkefølgen til konkrete adgangs-, test- og overvågningskrav.

Hvilke misforståelser fører ofte til dårlige valg?

Den første misforståelse er, at offentligt tilgængelige oplysninger altid kan bruges frit i AI. Offentlig adgang betyder ikke automatisk, at behandling, genbrug eller træning er uproblematisk. EDPB peger på, at store indsamlinger fra åbne kilder kan indeholde personoplysninger og særlige kategorier af oplysninger, og at vurderingen afhænger af formål, grundlag og beskyttelsesforanstaltninger.

Den anden misforståelse er, at anonymisering er nem. Hvis tekst stadig indeholder sjældne hændelser, stillingsbetegnelser, tidslinjer, lokationer eller sagsdetaljer, kan personer eller virksomheder nogle gange genkendes indirekte. Pseudonymisering reducerer risiko, men er ikke det samme som fuld anonymisering.

Den tredje misforståelse er, at en stærk model automatisk er en sikker løsning. Sikkerheden afhænger også af produktets indstillinger, infrastrukturen, adgangsrettigheder, datakilder, menneskelig kontrol og leverandørens behandling. En model kan være teknisk avanceret og stadig være uegnet til en bestemt fortrolig arbejdsgang.

Den fjerde misforståelse er, at privatliv og innovation står i modsætning til hinanden. I praksis kan klare datagrænser øge tempoet, fordi teams ved, hvilke opgaver de må eksperimentere med, hvilke data der kræver særlig godkendelse, og hvornår en løsning skal løftes fra uformel test til kontrolleret drift.

Hvilke kilder ligger til grund?

Artiklen bygger især på EDPB’s rapport om ChatGPT-taskforcen, NIST’s Generative AI Profile, ICO’s vejledning om AI, sikkerhed og dataminimering, OWASPs LLM Top 10 for 2025 og EU’s AI-forordning.