Udfordringer ved implementering af AI i kundeservice

Udfordringer ved implementering af AI i kundeservice handler især om datakvalitet, integrationer, sikkerhed, ansvar og menneskelig overtagelse. AI kan automatisere svar og støtte medarbejdere, men værdien afhænger af afgrænsede use cases, opdateret viden, løbende måling og klare grænser for, hvornår systemet ikke må svare alene.

Hvorfor er AI i kundeservice mere end en chatbot?

AI i kundeservice bliver ofte beskrevet som et chatbotprojekt, men implementeringen påvirker hele serviceflowet. Systemet skal forstå henvendelser, hente relevant viden, skelne mellem standardspørgsmål og komplekse sager, håndtere personoplysninger og give medarbejdere et brugbart overblik. Det gør projektet til en kombination af teknologi, procesdesign, datastyring og kvalitetskontrol.

Den første udfordring er derfor ikke kun at få en model til at formulere et svar. Den er at afgøre, hvilke svar organisationen tør automatisere, hvilke svar der kræver menneskelig vurdering, og hvordan kunden oplever overgangen mellem selvbetjening, AI-assistent og medarbejder. En løsning kan være teknisk velfungerende og stadig give dårlig kundeservice, hvis den placeres forkert i arbejdsgangen.

En realistisk implementering begynder med serviceopgaven. Hvis målet er automatisering af kundehenvendelser med AI, skal organisationen definere, hvilke henvendelser der er gentagne, hvilke der kræver systemopslag, og hvilke der bør sendes direkte til en medarbejder. Det giver et mere sikkert grundlag end at starte med en generel AI-model og bagefter lede efter problemer, den kan løse.

Hvilke use cases bør afgrænses først?

De bedste startområder er typisk henvendelser med lav risiko, tydelige svarregler og gode data. Det kan være åbningstider, ordrestatus, returprocesser, simple produktspørgsmål eller forslag til svarudkast for medarbejdere. Sager med reklamationer, opsigelser, følsomme personoplysninger, vrede kunder eller økonomiske konsekvenser bør som regel have mere menneskelig kontrol.

Afgrænsning handler også om kanal. En AI-løsning i en intern medarbejderflade kan have lavere risiko end en fuldautomatisk kundechat, fordi medarbejderen kan kontrollere svaret før afsendelse. På samme måde er en søgeassistent i en videnbase ofte lettere at styre end et system, der selv ændrer kundedata eller afslutter sager.

En enkel rækkefølge er at begynde med rådgivende eller assisterende funktioner, måle kvaliteten og først derefter give systemet større handlefrihed. Det reducerer risikoen for, at automatisering bliver indført før organisationen kender fejltyperne.

Hvordan påvirker datakvalitet kundesvarene?

AI i kundeservice er afhængig af den viden, den kan bruge. Hvis videnbasen er forældet, produktsproget er uklart, eller politikker er gemt i flere systemer med forskellige versioner, vil AI-løsningen videreføre usikkerheden. Det gælder også, når historiske chats eller tickets bruges som trænings- eller søgedata. Gamle svar kan afspejle tidligere praksis, uens tone eller fejl, som ikke bør gentages.

Datakvalitet er derfor en driftsopgave. Organisationen bør vide, hvem der ejer hver videnartikel, hvornår den sidst er godkendt, hvilke produkter eller processer den dækker, og hvornår den skal udløbe. Ellers kan AI-systemet give et svar, der lyder korrekt, men bygger på en gammel procedure.

Et praktisk kontrolpunkt er at adskille tre typer viden: stabile fakta, procesregler og situationsafhængige vurderinger. Stabile fakta kan ofte automatiseres. Procesregler kræver versionsstyring. Situationsafhængige vurderinger bør formuleres som beslutningsstøtte, så en medarbejder kan se, hvilke oplysninger der mangler, før sagen afsluttes.

Datakvalitet handler også om sprog. Kundeservicehenvendelser indeholder stavefejl, slang, forkortelser, vrede formuleringer og blandede emner. Hvis kategorierne i CRM eller ticketsystemet er inkonsistente, bliver evaluering og rapportering usikker. Det svækker både modellen og ledelsens mulighed for at vurdere, om AI faktisk forbedrer serviceoplevelsen.

Hvor opstår risikoen for forkerte eller opdigtede svar?

Generativ AI kan formulere overbevisende svar, som ikke nødvendigvis er korrekte. Risikoen opstår især, når modellen mangler relevant kontekst, når videnbasen ikke indeholder svaret, når kundens spørgsmål blander flere problemer, eller når systemet forsøger at udfylde huller i stedet for at sige, at det ikke ved nok.

I kundeservice kan en forkert formulering få praktisk betydning. Kunden kan få en forkert forventning om levering, garanti, betaling, opsigelse eller klageproces. Derfor bør AI-løsningen ikke kun testes på, om svaret er sprogligt pænt. Den skal testes på faktuel nøjagtighed, kildegrundlag, begrænsninger og evnen til at stoppe, når svaret kræver menneskelig vurdering.

Artikler om AI hallucination beskriver typisk problemet som opdigtet eller fejlagtigt indhold. I kundeservice er den praktiske løsning ikke at forvente nul fejl, men at indbygge værn: svar med kildehenvisning, faste svarskabeloner for kritiske emner, afvisning ved lav sikkerhed og eskalering ved konflikt mellem datakilder.

Et nyttigt princip er, at systemet skal kunne gøre tre ting ud over at svare: spørge opklarende, vise sit grundlag og sende videre. Hvis en AI-løsning kun er optimeret til at svare hurtigt, bliver den mindre egnet til sager, hvor korrekthed, empati og ansvar vejer tungere end hastighed.

Hvilke integrationsproblemer rammer CRM, tickets og kanaler?

Kundeservice foregår sjældent i ét system. En medarbejder bruger ofte CRM, ticketsystem, ordrestyring, produktdatabase, betalingssystem, chat, e-mail, telefonnoter og interne dokumenter. Når AI kobles på, skal den enten kunne hente data sikkert fra disse systemer eller arbejde med et begrænset uddrag. Begge valg giver udfordringer.

Fuld integration kan give mere præcise svar, men øger kravene til adgangsstyring, logning, fejlhåndtering og test. Begrænset integration er enklere, men kan give mangelfulde svar, fordi systemet ikke kender den aktuelle kundesituation. Derfor bør hver integration vurderes efter, om den kun læser data, foreslår en handling eller selv udfører handlingen.

Et almindeligt problem er, at kanaler ikke har samme kontekst. En kunde kan begynde i chat, følge op på e-mail og ringe senere. Hvis AI-systemet ikke kan se historikken på en kontrolleret måde, gentager kunden sin sag. Hvis systemet ser for meget, kan unødvendige personoplysninger blive brugt i svar og analyser. Begge dele forringer kvaliteten.

Integrationer bør derfor designes med mindst mulige rettigheder. En AI-assistent, der kun skal foreslå svar, behøver ikke ret til at refundere betalinger eller ændre stamdata. Hvis systemet senere får mere handlefrihed, bør det ske trinvist og med særskilt godkendelse for handlinger, der kan påvirke kunden direkte.

Hvordan planlægges menneskelig overtagelse?

Menneskelig overtagelse er en kernefunktion, ikke en nødudgang. Den skal være planlagt fra starten, fordi AI ikke bør håndtere alle kundesager alene. En god overdragelse viser medarbejderen kundens spørgsmål, den relevante historik, AI-systemets foreløbige vurdering, kilderne og årsagen til eskaleringen.

Uden et klart overdragelsesdesign kan AI skabe ekstra arbejde. Medarbejderen skal måske genskabe kontekst, læse en lang samtale igennem eller rette et svar, som kunden allerede har reageret på. Det kan give længere sagsbehandlingstid, selv om den første AI-interaktion var hurtig.

Planlæg derfor eskalering efter konkrete signaler. Det kan være lav sikkerhed, gentagne misforståelser, negativ kundestemning, krav om kompensation, følsomme oplysninger, sprogskift, tekniske fejl eller kundens direkte ønske om en medarbejder. AI-baseret sentimentanalyse i kundeservice kan støtte prioritering, men den bør ikke stå alene som beslutningsgrundlag.

En enkel model er at definere røde, gule og grønne sager. Grønne sager kan automatiseres. Gule sager kan få svarudkast, som medarbejderen godkender. Røde sager sendes direkte til mennesker. Modellen bør justeres efter faktiske fejl og kundefeedback, ikke kun efter interne antagelser.

Hvilke sikkerheds- og privatlivsrisici skal styres?

Kundeservice-AI behandler ofte oplysninger, der ikke bør spredes: navne, kontaktoplysninger, ordrer, kontraktforhold, klager, interne noter og i nogle tilfælde følsomme eller fortrolige detaljer. Udfordringen er at give systemet nok kontekst til at hjælpe, men ikke mere adgang end opgaven kræver.

Sikkerhedsrisici opstår også gennem brugerinput. En kunde eller en indsat tekst kan forsøge at få systemet til at ignorere regler, afsløre interne instruktioner, hente uvedkommende data eller udføre handlinger uden godkendelse. Risikoen bliver større, når AI-systemet har adgang til eksterne dokumenter, værktøjer eller API’er.

Kontrollerne bør dække både input, output og værktøjsadgang. Input bør filtreres og kontekstafgrænses. Output bør kontrolleres for personoplysninger, ukorrekte løfter og handlinger, der kræver godkendelse. Værktøjsadgang bør begrænses til det laveste nødvendige niveau, så systemet ikke kan gøre mere end dets use case kræver.

Privatliv handler ikke kun om systemleverandøren. Organisationen skal også vurdere, hvilke samtaler der gemmes, hvor længe de gemmes, hvem der kan søge i dem, om de bruges til træning eller forbedring, og hvordan kunden informeres. I praksis er dette ofte en større opgave end selve opsætningen af chatbotten.

Hvordan påvirker EU-regler transparens og databrug?

Organisationer i EU skal forholde sig til både databeskyttelse og AI-transparens, når AI bruges i kundeservice. Kundedialoger kan indeholde personoplysninger, og AI-systemer, der interagerer direkte med personer, kan udløse krav om tydelig information om, at kunden taler med eller påvirkes af et AI-system. Den konkrete vurdering afhænger af løsningens rolle og kontekst.

For kundeservice betyder det, at implementeringen bør beskrive dataflowet før lancering. Hvilke data sendes til AI-systemet? Hvilke data returneres? Hvem er dataansvarlig og databehandler? Bliver samtaler brugt til analyse, kvalitetssikring eller videre modeltræning? Hvilke oplysninger kan medarbejdere se efterfølgende?

Det er også relevant at skelne mellem information og samtykke. En organisation kan have pligt til at informere kunder om brugen af AI uden at samtykke altid er det rette eller eneste behandlingsgrundlag. Den vurdering bør foretages konkret, især hvis AI bruges til profilering, prioritering eller beslutninger med mærkbar betydning for kunden.

En praktisk tilgang er at skrive AI-løsningens databrug i almindeligt sprog: hvad systemet gør, hvilke oplysninger det bruger, hvornår en medarbejder overtager, og hvordan kunden kan få hjælp, hvis svaret ikke løser problemet. Transparens er mest nyttig, når den er knyttet til konkrete handlinger i kunderejsen.

Hvordan måles kvalitet uden at overse kundeoplevelsen?

AI i kundeservice bør ikke kun måles på automatiseringsgrad og svartid. Hurtige svar kan være skadelige, hvis de er upræcise, uvenlige eller svære at handle på. Kvalitetsmåling skal derfor kombinere driftsmål, kundemål og faglig gennemgang af svar.

Relevante målepunkter kan være løsningsgrad ved første kontakt, eskaleringsrate, genåbnede sager, fejltyper, kundetilfredshed, ventetid efter eskalering, medarbejdernes rettelser af AI-udkast og andelen af svar, hvor systemet ikke kunne finde sikkert grundlag. Måling af kundetilfredshed med AI-værktøjer bør derfor kobles til faktisk sagskvalitet, ikke kun spørgeskemaer efter chatten.

Organisationen bør også lave stikprøver. Det er ikke nok at se på gennemsnit, fordi fejl ofte samler sig i bestemte emner, produkter, kundetyper eller sprog. En model kan fungere godt på standardspørgsmål og dårligt på undtagelser. Det er netop undtagelserne, der afgør, om kunderne oplever systemet som hjælpsomt eller som en barriere.

Et godt evalueringssetup har faste fejlklasser. Eksempler er forkert fakta, manglende empati, overset kontekst, forkert eskalering, for mange spørgsmål, brud på tone, utilstrækkelig kilde og uhensigtsmæssig brug af persondata. Når fejl klasseres ensartet, kan teamet se, om problemet ligger i data, modelopsætning, arbejdsgang eller oplæring.

Hvilke kompetencer skal medarbejdere og ledere have?

AI ændrer medarbejderens rolle fra kun at svare til også at kontrollere, korrigere og forbedre systemets output. Det kræver faglig dømmekraft, forståelse for datagrundlag og evnen til at se, hvornår et svar lyder rigtigt uden at være tilstrækkeligt dokumenteret. Medarbejdere skal også kunne forklare kunden, hvorfor en sag sendes videre eller kræver flere oplysninger.

Ledere skal kunne adskille produktivitet fra kvalitet. Hvis medarbejdere bliver målt ensidigt på antal lukkede sager, kan AI øge tempoet uden at forbedre kundens resultat. Hvis de derimod måles på løsningskvalitet, fejlrettelser og læring fra eskaleringer, bliver AI en del af kvalitetsarbejdet.

Oplæring bør være konkret. Medarbejdere skal se eksempler på gode og dårlige AI-udkast, lære hvilke emner der aldrig må sendes uden kontrol, og vide hvordan fejl meldes tilbage. De skal også forstå, hvilke dele af kundens oplysninger de må indsætte i systemet, og hvilke oplysninger der skal udelades eller håndteres manuelt.

Kompetencebehovet gælder også it, compliance og produktteams. Kundeservice kan ikke alene afgøre modeladgang, dataopbevaring, leverandørkrav, integrationer eller sikkerhedstest. En tværfaglig gruppe gør det lettere at opdage problemer, før de rammer kunderne.

Hvordan undgår man bias og ujævn behandling af kunder?

Bias i kundeservice kan vise sig som forskellig tone, prioritering eller løsningskvalitet på tværs af sprog, dialekter, navne, geografi, handicap, alder eller måden kunden formulerer sig på. Det kan også opstå, hvis historiske servicebeslutninger bruges ukritisk som mønster for fremtidige svar.

Ujævn behandling er ikke altid synlig i den enkelte samtale. Den kan vise sig i data: nogle henvendelsestyper får hurtigere eskalering, nogle kundesegmenter får oftere afvisende svar, eller systemet misforstår bestemte sproglige mønstre. Derfor bør evaluering opdeles på relevante kategorier, uden at organisationen indsamler flere personoplysninger end nødvendigt.

Et praktisk værn er at teste med realistiske variationer. Den samme sag bør prøves med forskellige formuleringer, kanalhistorikker og sprogtoner. Hvis systemet kun klarer pæne, korte og standardiserede spørgsmål, er det ikke klar til bred kundedialog. Det gælder også for AI-drevne chatbots i kundeoplevelser, hvor dialogkvalitet kan være lige så vigtig som teknisk korrekthed.

Organisationen bør også beslutte, hvilke værdier kundeservice skal afspejle. AI skal ikke opfinde en ny servicepolitik. Den skal understøtte den eksisterende politik, forklare den klart og sende sager videre, når reglerne ikke passer på kundens situation.

Hvordan kan implementeringen gøres trinvis?

En trinvis implementering reducerer risikoen for, at organisationen automatiserer før den forstår konsekvenserne. Første trin er at vælge et afgrænset område med klare svar, gode data og lav konsekvens ved fejl. Andet trin er at lade AI foreslå svar til medarbejdere. Tredje trin er begrænset kundevendt automation med tydelig eskalering. Først derefter bør systemet få adgang til handlinger som ændringer, refusioner eller sagslukning.

Hvert trin bør have en exit-mulighed. Hvis fejlprocenten stiger, hvis kunderne oftere beder om en medarbejder, eller hvis medarbejdere bruger meget tid på at rette svar, bør løsningen justeres før næste udvidelse. Det er bedre at automatisere få sager stabilt end mange sager med uklart ansvar.

Implementeringen bør også have et fast forbedringsloop:

1. Vælg en konkret henvendelsestype og definer, hvad et korrekt svar er.
2. Rens og godkend den viden, AI-systemet må bruge.
3. Test med realistiske kundespørgsmål, fejlscenarier og sprogvariationer.
4. Lad medarbejdere gennemgå svarudkast og registrere fejlklasser.
5. Lancér begrænset, mål kvalitet og justér eskaleringsregler.
6. Udvid først, når målinger viser stabil kvalitet og klare ansvarsgrænser.

Den centrale udfordring er balance. AI kan gøre kundeservice hurtigere og mere ensartet, men kun hvis organisationen styrer de situationer, hvor standardisering ikke er nok. Det kræver klare grænser, konkrete målinger og et menneskeligt beredskab, som kunderne faktisk kan nå frem til.

Hvilke kilder ligger til grund?

Artiklen bygger på NISTs AI Risk Management Framework, NISTs profil for generativ AI-risikostyring, EU’s databeskyttelsesforordning, EU’s Artificial Intelligence Act og OWASP’s LLM Top 10 for 2025.