Lovkravene for AI-chatbots afhænger af chatbotens formål, data og brugergruppe. I EU er de centrale kravspor gennemsigtighed efter AI-forordningen, databeskyttelse efter GDPR, sikkerhed, korrekt brugerinformation og ekstra kontrol, hvis chatbotten bruges til højrisikoformål som rekruttering, uddannelse eller adgang til vigtige ydelser.
Lovkravene for AI-chatbots afhænger især af formål, persondata og risikoniveau. Overblikket dækker AI-forordningens transparenskrav, GDPR, cookies, sikkerhed, højrisikoanvendelser og de praktiske kontrolpunkter, som bør være afklaret før en chatbot møder brugere eller træffer beslutningsnære svar.
Hvilke regler gælder typisk for en AI-chatbot?
En AI-chatbot rammes sjældent af ét enkelt regelsæt. Den skal vurderes efter, hvad den gør, hvem den møder, hvilke data den behandler, og om dens svar kan påvirke en persons rettigheder, adgang til ydelser eller økonomiske situation.
De mest almindelige kravspor er AI-forordningen, GDPR, regler om cookies og lignende sporingsteknologier, almindelige krav om sikkerhed og dokumentation samt sektorregler, hvis chatbotten bruges i for eksempel sundhed, finans, uddannelse, HR eller offentlig sagsbehandling.
En simpel informationschatbot, der svarer på åbningstider uden at gemme personoplysninger, har derfor et andet kravbillede end en chatbot, der vurderer jobansøgere, rådgiver om kredit, håndterer klager eller indsamler følsomme oplysninger. Den praktiske afgrænsning begynder med chatbotens konkrete formål, ikke med teknologien alene.
| Område | Hvad betyder det for chatbotten? | Praktisk kontrolpunkt |
|---|---|---|
| AI-forordningen | Brugere skal i relevante tilfælde kunne se, at de interagerer med AI, og højrisikoanvendelser kan udløse strengere krav. | Afklar formål, risikokategori og brugerbesked. |
| GDPR | Personoplysninger kræver behandlingsgrundlag, information, sikkerhed, dataminimering og respekt for registreredes rettigheder. | Beskriv dataflow, roller og slettefrister. |
| Cookies og sporing | Teknologier, der lagrer eller tilgår oplysninger på brugerens udstyr, kræver ofte forudgående samtykke. | Skeln mellem teknisk nødvendig funktion og analyse, marketing eller tredjepartssporing. |
| Sektorregler | Reglerne skærpes, hvis chatbotten bruges i regulerede områder eller påvirker vigtige beslutninger. | Kontrollér den branche, arbejdsgang og beslutning, chatbotten indgår i. |
Hvad skal brugeren vide, når chatbotten svarer?
Brugeren skal kunne forstå, at svaret kommer fra en AI-chatbot, når det ikke allerede er tydeligt. Den information bør ligge ved starten af samtalen eller på det sted, hvor brugeren møder chatbotten, så brugeren ikke først opdager det efter at have delt oplysninger eller handlet på et svar.
En god brugerbesked forklarer kort, at chatbotten er automatiseret, hvad den kan hjælpe med, hvad den ikke bør bruges til, om samtalen gemmes, og hvordan brugeren kan få kontakt med en menneskelig funktion, når det er relevant. Beskeden skal være konkret nok til, at brugeren kan vælge, om chatbotten er den rigtige kanal.
Transparens handler ikke kun om en etiket som “AI”. Hvis chatbotten kan tage fejl, ikke har adgang til alle oplysninger eller kun kan svare inden for et snævert område, bør begrænsningen fremgå i almindeligt dansk. Det mindsker risikoen for, at brugeren tillægger svaret en autoritet, som systemet ikke har.
Hvis chatbotten indgår i salg, kundeservice eller kommunikation med borgere, bør brugerinformationen også passe til kanalens karakter. En kort webbesked kan være nok til en simpel hjælper, mens en chatbot i et loginmiljø, en klageproces eller en sagsforberedende arbejdsgang kræver mere præcis information om data, ansvar og opfølgning.
Hvilken betydning får AI-forordningen fra 2. august 2026?
AI-forordningen er EU’s fælles ramme for kunstig intelligens. Den er allerede trådt i kraft, men de generelle transparensregler, som især er relevante for mange chatbots, finder som udgangspunkt anvendelse fra 2. august 2026. Forbud mod visse uacceptable AI-praksisser begyndte tidligere, mens regler for generelle AI-modeller har deres egen tidsplan.
For chatbots er den mest praktiske hovedregel, at personer skal informeres, når de interagerer direkte med et AI-system, medmindre det er åbenlyst ud fra situationen. Et lille ikon uden forklaring er sjældent den stærkeste løsning, hvis brugeren kan tro, at der sidder et menneske bag svarene.
AI-forordningen arbejder risikobaseret. Nogle AI-systemer er forbudte, nogle er højrisiko, nogle har transparenskrav, og mange er minimal risiko. En almindelig chatbot til produktspørgsmål vil ofte især skulle håndtere transparens og databeskyttelse, mens en chatbot i HR, uddannelse eller adgang til ydelser kan få en langt tungere vurdering.
Organisationer bør derfor placere chatbotten i en intern model for AI-governance. Det betyder ikke, at alle chatbots skal behandles som højrisikosystemer, men at formål, data, brugergruppe, leverandørrolle, logning, menneskelig kontrol og ændringer i systemet skal kunne forklares.
Hvornår kan en chatbot blive et højrisiko-AI-system?
En chatbot bliver ikke højrisiko, bare fordi den bruger en stor sprogmodel eller generativ AI. Risikoen knytter sig til anvendelsen. Hvis chatbotten bruges i en sammenhæng, hvor dens output kan påvirke adgang til uddannelse, ansættelse, kredit, offentlige ydelser, retlige processer eller andre væsentlige forhold, skal den vurderes langt mere kritisk.
En kundeservicechatbot, der hjælper med at finde returregler, er typisk noget andet end en chatbot, der rangerer jobansøgere eller vurderer, om en person kan få en ydelse. Det afgørende er, om chatbotten blot giver generel information, eller om den indgår i en proces, der reelt former en beslutning.
Hvis chatbotten bruges i et højrisikoområde, kan kravene omfatte risikostyring, datakvalitet, teknisk dokumentation, logging, gennemsigtighed over for brugere eller professionelle anvendere, menneskeligt tilsyn, nøjagtighed, robusthed og cybersikkerhed. Det er ikke nok at skrive en kort ansvarsfraskrivelse, hvis systemet i praksis påvirker vigtige beslutninger.
En praktisk tommelfingerregel er at se på den værste rimelige fejl. Hvis en forkert chatbotbesked kun giver irritation, er kravbilledet lettere. Hvis fejlen kan føre til diskrimination, forkert afslag, økonomisk tab, sundhedsrisiko eller manglende adgang til rettigheder, skal chatbotten behandles som en del af en reguleret beslutningskæde.
Hvilke GDPR-krav gælder, når chatbotten behandler personoplysninger?
GDPR gælder, når chatbotten behandler personoplysninger. Det kan være navn, e-mail, telefonnummer, IP-adresse, kundehistorik, loginoplysninger, fritekst i samtalen eller oplysninger, som brugeren selv skriver ind. En chatbot kan derfor være omfattet af GDPR, selv om den ikke spørger direkte efter personfølsomme oplysninger.
Den dataansvarlige skal kunne forklare formål, behandlingsgrundlag, dataminimering, opbevaring, sikkerhed, modtagere, eventuelle tredjelande og brugerens rettigheder. Hvis en ekstern leverandør behandler samtaledata på vegne af organisationen, skal rollefordelingen og databehandleraftalen være på plads.
Fritekstfelter er et særligt kontrolpunkt. Brugere kan indtaste oplysninger om helbred, økonomi, konflikter, børn, fagforeningsforhold eller andre følsomme forhold, selv om chatbotten ikke beder om det. Derfor bør chatbotten have tydelig brugerinformation, begrænset dataindsamling, filtrering eller instruktioner, som reducerer unødvendig deling.
En konsekvensanalyse efter GDPR kan være nødvendig, hvis behandlingen sandsynligvis medfører høj risiko for fysiske personers rettigheder og frihedsrettigheder. Det er især relevant ved omfattende profilering, systematisk evaluering, store mængder følsomme oplysninger eller automatiserede beslutninger med væsentlig virkning.
Databeskyttelse bør kobles direkte til driftsdesignet. Interne retningslinjer, slettefrister, adgangsstyring, testdata og leverandørkontrol bør beskrives i en intern AI-politik, så chatbotten ikke ender som et fritstående eksperiment uden ejerskab.
Hvornår er samtykke nødvendigt for cookies og sporing?
En chatbot kan udløse cookieregler, hvis den eller dens tredjepartskomponenter lagrer oplysninger på brugerens udstyr eller tilgår oplysninger, der allerede ligger der. Det kan være cookies, pixels, lokal lagring, fingerprinting eller lignende teknologier, som bruges til analyse, personalisering, marketing, sessionsstyring eller fejlsøgning.
Teknisk nødvendige teknologier kan i visse tilfælde bruges uden samtykke, hvis de kun er nødvendige for, at funktionen virker. Analyse, personalisering på tværs af sessioner, marketingmåling og tredjepartssporing kræver derimod som udgangspunkt et gyldigt samtykke, før teknologien aktiveres.
Samtykket skal være frivilligt, specifikt, informeret og utvetydigt. Brugeren skal kunne afslå, og det skal være lige så let at trække samtykket tilbage som at give det. Hvis chatbotleverandøren indsamler oplysninger til egne formål, skal det fremgå tydeligt, fordi ansvaret ikke forsvinder, bare fordi teknologien leveres af en tredjepart.
For en organisation betyder det, at chatbotten ikke kun skal vurderes som samtaleværktøj. Den skal også vurderes som webteknologi. Kontrollér derfor, hvilke scripts, cookies, analyseværktøjer og tredjepartskald der aktiveres, før chatbotten møder brugeren.
Hvilke krav gælder for svar, beslutninger og menneskelig kontrol?
En AI-chatbot bør ikke placeres tættere på en afgørelse, end dens kvalitet, dokumentation og kontrol kan bære. Hvis chatbotten kun giver generel information, er behovet for menneskelig kontrol mindre. Hvis den derimod anbefaler, rangerer, afviser, visiterer eller prioriterer personer, ændrer kravbilledet sig.
GDPR indeholder særskilte regler om automatiserede individuelle afgørelser, herunder profilering, når en beslutning udelukkende baseres på automatisk behandling og har retsvirkning eller tilsvarende væsentlig virkning. En chatbot, der alene skriver et uforpligtende svar, er ikke det samme som en automatisk afgørelse, men grænsen kan blive uklar, hvis mennesker blot godkender maskinens output uden reel vurdering.
Menneskelig kontrol skal være reel. Den person, der kontrollerer chatbotoutput, skal kende systemets begrænsninger, kunne tilsidesætte svaret og have adgang til de oplysninger, der kræves for at træffe en selvstændig vurdering. Kontrol er svag, hvis den kun består i at klikke videre på et svar, som ingen kan forklare.
Chatbotten bør også kunne håndtere usikkerhed. Den bør markere, når den ikke kan svare, henvise til en menneskelig kanal ved komplekse sager og undgå at fremstille generelle oplysninger som individuelle afgørelser. For chatbots til kundeservice og marketing er denne afgrænsning ofte forskellen mellem serviceautomatisering og beslutningsnær automatisering.
Hvordan bør en organisation afklare ansvar mellem leverandør og bruger?
AI-forordningen skelner mellem forskellige roller, herunder leverandører af AI-systemer og organisationer, der bruger systemerne under egen myndighed. I praksis skal organisationen derfor afklare, om den blot anvender et standardsystem, om den tilpasser chatbotten væsentligt, eller om den selv udvikler og udbyder chatbotten.
Rollefordelingen har betydning for dokumentation, risikovurdering, kontrakter, logging, instruktioner, support, opdateringer og håndtering af fejl. En organisation kan ikke nøjes med at pege på leverandøren, hvis den selv beslutter formål, data, brugergruppe, integrationer og hvordan chatbotten indgår i en arbejdsgang.
Leverandøraftalen bør dække databehandling, underleverandører, modelopdateringer, sikkerhedshændelser, logadgang, slettefrister, træning på kundedata, placering af data, eksport til tredjelande, servicevinduer og mulighed for at deaktivere chatbotten. Hvis leverandøren bruger samtaler til egne formål, skal det vurderes særskilt.
Et stærkt ansvarsbillede har også en intern ejer. Der bør være en navngiven funktion, der kan godkende ændringer, følge op på hændelser, svare på brugerhenvendelser og beslutte, hvornår chatbotten skal begrænses eller tages ned. Uden den ejer bliver compliance afhængig af tilfældige tekniske valg.
Hvilke sikkerhedskrav bør kobles til lovkravene?
Sikkerhed er en del af lovkravene, ikke et separat teknisk efterarbejde. Når en chatbot behandler personoplysninger, skal organisationen have passende tekniske og organisatoriske sikkerhedsforanstaltninger. Når chatbotten kan påvirke vigtige processer, skal robusthed, adgangskontrol og overvågning være tilpasset risikoen.
For generative chatbots er de praktiske risici ofte anderledes end i klassiske webformularer. Brugere kan indtaste uventede oplysninger, angribere kan forsøge at manipulere samtalen, og chatbotten kan blive koblet til interne systemer, dokumenter eller kundedata. Det gør adskillelse af data, adgangsbegrænsning og test af misbrugsscenarier centrale.
En sikker chatbot bør have begrænsede rettigheder, tydelige datazoner, logning af relevante hændelser, rate limits, kontrol med filupload, proces for sårbarheder og en måde at stoppe funktionen på, hvis den opfører sig forkert. Det gælder især, hvis chatbotten er forbundet til CRM, ticketsystemer, intranet, økonomisystemer eller dokumentarkiver.
Risikoen for datalækage bør behandles konkret. Det kan handle om, at brugere skriver fortrolige oplysninger i chatten, at medarbejdere indlæser interne dokumenter uden hjemmel, eller at leverandøren bruger samtaler til modeltræning. Arbejdet med forebyggelse af datalækager i AI-applikationer bør derfor indgå, før chatbotten sættes i drift.
Hvad bør stå i brugerinformationen før chatbotten tages i brug?
Brugerinformationen bør være kort, konkret og placeret dér, hvor samtalen begynder. Den skal ikke ligne en lang juridisk tekst, men den skal give brugeren de oplysninger, der er nødvendige for at forstå kanalens karakter og databehandlingen.
En praktisk brugerbesked kan dække:
- at brugeren interagerer med en AI-chatbot eller automatiseret funktion
- hvilke opgaver chatbotten kan hjælpe med, og hvilke den ikke kan håndtere
- om samtalen gemmes, hvor længe, og til hvilke formål
- hvilke typer oplysninger brugeren ikke bør indtaste
- hvordan brugeren får menneskelig hjælp eller klager over et svar
- om der bruges cookies, analyseværktøjer eller tredjepartsleverandører
Hvis chatbotten bruges i en følsom proces, bør informationen være mere præcis. Det gælder for eksempel, hvis samtalen kan indgå i en sag, en ansøgning, en klage, en personalefunktion eller en økonomisk vurdering. Brugeren skal kunne forstå, om chatbotten blot vejleder, eller om oplysningerne kan få betydning senere.
Brugerinformationen bør opdateres, når chatbotten ændrer formål, datakilder, leverandør, integrationer eller måde at gemme samtaler på. En chatbot kan hurtigt skifte karakter, hvis den kobles til nye systemer. Derfor bør teksten kontrolleres sammen med den tekniske opsætning, ikke kun ved lanceringen.
Hvordan kan du lave en praktisk compliance-kontrol?
En praktisk kontrol begynder med at beskrive chatbotten som en arbejdsgang. Hvem møder den, hvad må den svare på, hvilke data modtager den, hvor sendes data hen, hvem læser loggene, og hvad sker der, når chatbotten tager fejl? Først derefter giver det mening at vælge de relevante lovkrav.
Brug denne rækkefølge:
- Definér chatbotens formål, brugergruppe og tilladte emner.
- Placér chatbotten i en risikokategori efter funktion og beslutningsnærhed.
- Kortlæg personoplysninger, samtalelogge, cookies, integrationer og tredjepartskald.
- Afklar roller: dataansvarlig, databehandler, AI-leverandør, intern systemejer og supportfunktion.
- Skriv brugerinformation, databeskyttelsesinformation og eventuel cookieinformation i almindeligt dansk.
- Beslut, hvornår menneskelig kontrol er nødvendig, og hvem der kan tilsidesætte chatbotten.
- Test fejl, misbrug, datalækage, hallucinationer, grænsetilfælde og eskalering til mennesker.
- Fastlæg slettefrister, logadgang, leverandøropfølgning og proces for ændringer.
Kontrollen bør gentages, når chatbotten får nye datakilder, nye instruktioner, nye integrationer eller nye brugergrupper. Mange compliancefejl opstår ikke ved første lancering, men når en oprindeligt simpel chatbot senere bruges til mere beslutningsnære opgaver.
En AI-beredskabsplan gør kontrollen mere robust, fordi den beskriver, hvem der reagerer ved fejl, datalækage, vildledende svar, leverandørnedbrud eller regulatoriske ændringer. Planen bør være kort nok til at blive brugt i praksis og præcis nok til at fordele ansvar.
Hvilke kilder ligger til grund?
Kildegrundlaget er EU’s AI-forordning, Kommissionens forklaring af den risikobaserede tilgang i AI Act, GDPR, Digitaliseringsstyrelsens side om tilsyn med AI-forordningen og Digitaliseringsstyrelsens cookievejledning.