ChatGPT i sundhedsvæsenet kan støtte forklaring, dokumentation, uddannelse og informationssøgning, men bør ikke stå alene i diagnose, behandling eller beslutninger om patienter. Potentialet afhænger af klare formål, sikker håndtering af helbredsdata, menneskelig fagkontrol og test af fejl, bias og usikre svar.
ChatGPT kan støtte sundhedsvæsenet med forklaring, dokumentudkast, forberedelse og vidensopsummering, men det bør ikke stå alene i diagnose, behandling eller personrettede beslutninger. Overblikket viser potentiale, datakrav, bias, menneskelig kontrol og etiske rammer for mere ansvarlig brug.
Hvad betyder ChatGPT i sundhedsvæsenet?
ChatGPT er et generativt AI-værktøj, der kan formulere, omskrive, strukturere og forklare tekst ud fra brugerens input. I sundhedsvæsenet betyder det typisk, at teknologien bruges som sprog- og informationsstøtte: den kan hjælpe med at gøre fagtekst mere forståelig, skabe udkast til administrative tekster, opsummere ikke-følsomt materiale eller støtte træning i kommunikation.
Det betyder ikke, at ChatGPT i sig selv er et medicinsk system. En generel chatbot mangler normalt adgang til patientens fulde journal, klinisk undersøgelse, lokale retningslinjer, ansvarskæde og dokumenteret validering til en konkret sundhedsopgave. Den kan lyde sikker, selv når svaret bygger på en forkert antagelse eller mangler afgørende kontekst.
Den mest præcise måde at forstå teknologien på er derfor at se den som et muligt støtteværktøj i udvalgte arbejdsgange. Den kan øge hastighed og tilgængelighed i nogle informationsopgaver, men den skal placeres under samme kontrol som andre digitale værktøjer, der kan påvirke patienter, sundhedspersoner og organisatoriske beslutninger.
Hvilke opgaver kan ChatGPT realistisk støtte?
WHO beskriver store multimodale modeller i sundhed som relevante på flere områder: klinisk støtte, patientstyret brug, administrative opgaver, uddannelse og forskning. ChatGPT passer især til opgaver, hvor sproglig struktur, forklaring eller opsummering er central, og hvor resultatet kan kontrolleres, før det bruges.
Et realistisk anvendelsesområde er patientkommunikation. En sundhedsperson kan bruge et AI-udkast til at forklare et generelt behandlingsforløb i enklere sprog, oversætte fagsprog til mere almindelige formuleringer eller foreslå spørgsmål, patienten kan tage med til en konsultation. I den brug er det sundhedspersonen, ikke modellen, der står for den faglige vurdering.
Et andet område er administrativ støtte. ChatGPT kan hjælpe med at formulere mødereferater, strukturere interne vejledninger, udforme skabeloner eller opsummere generelle procedurer. Den slags opgaver kan spare tid, men kræver stadig kontrol af fakta, datakilder og formuleringer. Hvis teksten indeholder personoplysninger eller sundhedsdata, ændrer risikobilledet sig markant.
| Opgave | Mulig nytte | Nødvendig kontrol |
|---|---|---|
| Forklaring af generel sundhedsinformation | Gør komplekse begreber mere tilgængelige. | Fagperson kontrollerer, at svaret følger gældende viden og ikke giver individuel vurdering. |
| Administrative udkast | Reducerer tid på standardiserede tekstopgaver. | Data klassificeres, og output gennemgås, før det gemmes eller sendes. |
| Uddannelse og simulation | Kan skabe øvelsesscenarier og træne kommunikation. | Materialet markeres som træning og må ikke forveksles med patientbehandling. |
| Foreløbig vidensopsummering | Hjælper med at strukturere spørgsmål og søgeord. | Kilder, datoer og kliniske retningslinjer kontrolleres separat. |
Hvorfor er sundhedsbrug anderledes end almindelig teksthjælp?
Sundhedsområdet adskiller sig fra almindelig kontorbrug, fordi fejl kan påvirke helbred, tillid og adgang til behandling. En upræcis formulering i en marketingtekst kan rettes senere. En upræcis formulering om symptomer, medicin eller risiko kan få en patient til at handle forkert eller vente for længe med at søge hjælp.
ChatGPT kan producere svar, der er sprogligt sammenhængende uden at være klinisk korrekte. Risikoen bliver større, når brugeren spørger om individuelle symptomer, lægemidler, prøvesvar eller behandlingsvalg. Modellen kan mangle information om alder, sygdomshistorik, kontraindikationer, lokal praksis og akutte faresignaler. Den kan også blande generel viden med antagelser, der ikke passer til personen.
Derfor bør sundhedsbrug vurderes efter konsekvens, ikke kun efter teknisk funktion. Hvis et svar kun bruges til at lave et udkast, som en fagperson gennemgår, er risikoen lavere. Hvis et svar bruges direkte af en patient eller som input til en klinisk beslutning, kræver det langt stærkere rammer, dokumentation og ansvarlighed.
Det samme gælder for generativ AI mere bredt. Modellerne er gode til mønstre i sprog, men de har ikke den samme ansvarskæde som sundhedspersoner, medicinsk udstyr, kliniske vejledninger eller validerede beslutningsstøttesystemer.
Hvordan bør ChatGPT indgå i kliniske arbejdsgange?
En klinisk arbejdsgang bør begynde med en afgrænsning af formålet. Det er ikke nok at sige, at ChatGPT skal hjælpe personalet. Opgaven skal beskrives konkret: Skal modellen omskrive tekst, foreslå spørgsmål, sortere information, lave et administrativt udkast eller hjælpe med uddannelsessimulation? Jo tættere opgaven er på diagnose, behandling eller visitation, jo højere bliver kravene til kontrol.
Et praktisk princip er, at ChatGPT bør placeres før eller efter den faglige vurdering, ikke i stedet for den. Modellen kan hjælpe med at forberede materiale, men en kompetent person skal kunne acceptere, rette, afvise eller ignorere svaret. OpenAI’s egne brugsregler skelner også mellem generel sundhedsinformation og skræddersyet medicinsk vurdering uden passende fagpersoninvolvering.
Arbejdsgangen bør have synlige stopregler. En stopregel kan være, at modellen ikke må give doseringsforslag, ikke må triagere akutte symptomer, ikke må opsummere identificerbare patientdata uden godkendt datagrundlag, eller ikke må sende output direkte til patienter uden gennemgang. Stopreglerne skal være korte nok til, at brugere faktisk kan følge dem.
- Definér den konkrete opgave og dens konsekvens for patienten.
- Afklar, hvilke data modellen må modtage.
- Angiv, hvem der kontrollerer output.
- Beskriv, hvornår output skal afvises.
- Log fejltyper og ret arbejdsgangen, når mønstre gentager sig.
Hvilke etiske spørgsmål opstår for patienter?
De etiske spørgsmål handler ikke kun om, om teknologien virker. De handler også om autonomi, retfærdighed, forklarlighed, privatliv og tillid. En patient skal kunne forstå, om et svar kommer fra en sundhedsperson, et AI-værktøj eller en kombination. Hvis AI bruges til at formulere beskeder, bør ansvaret for indholdet stadig være tydeligt placeret.
Autonomi betyder, at patienten ikke bør presses til at følge et AI-genereret svar, som fremstår mere sikkert, end grundlaget tillader. ChatGPT kan formulere anbefalende sætninger, selv når der kun er tale om generel information. Derfor bør patientrettet brug undgå kategoriske konklusioner, når der mangler undersøgelse, prøver, journaloplysninger eller samtale med en fagperson.
Retfærdighed handler om, at teknologien ikke må forstærke forskelle i adgang, sprog, digital modenhed eller sundhedskompetence. En chatbot kan være nyttig for en patient, der vil forstå generelle begreber, men mindre egnet for en patient med akutte symptomer, lav digital tryghed eller komplekse sociale forhold. Hvis teknologien bruges bredt, skal der være alternativer for personer, der ikke kan eller vil bruge den.
Etik bliver mere konkret, når den kobles til beslutninger. Artikler om ChatGPTs etiske grænser bør derfor handle om styring, gennemsigtighed og ansvar frem for abstrakte principper alene. I sundhedsvæsenet er tillid en del af selve ydelsen.
Hvordan håndteres sundhedsdata og privatliv?
Sundhedsdata er blandt de mest følsomme oplysninger, en organisation kan behandle. GDPR artikel 9 placerer data om helbred i en særlig kategori af personoplysninger, hvor behandling som udgangspunkt er forbudt, med bestemte undtagelser og krav om beskyttelse. Det betyder, at en sundhedsorganisation ikke bør kopiere identificerbare patientoplysninger ind i ChatGPT, medmindre formål, lovligt grundlag, databehandlerforhold, sikkerhed og sletning er afklaret.
Privatliv handler også om indirekte identifikation. En tekst kan være anonym på overfladen, men stadig afsløre en person gennem sjælden diagnose, datoer, sted, alder eller kombinationer af oplysninger. Derfor er det ikke altid nok at fjerne navn og CPR-nummer. Dataminimering betyder, at modellen kun bør få det materiale, der faktisk er nødvendigt for den godkendte opgave.
Hvis ChatGPT bruges i en organisation, bør der være klare regler for brugerinput, logning, adgang og opbevaring. Logs kan være nødvendige for at finde fejl og misbrug, men de kan også blive en ny samling følsomme oplysninger. En fornuftig løsning beskriver, hvilke oplysninger der logges, hvem der kan se dem, hvor længe de gemmes, og hvordan de slettes.
For den enkelte bruger er den praktiske grænse enkel: skriv ikke personhenførbare helbredsoplysninger i et generelt AI-værktøj, medmindre organisationen har godkendt netop den brug. Det samme princip ligger bag bredere spørgsmål om sikkerhed og privatliv i ChatGPT, men sundhedsdata kræver en strengere vurdering end almindelige arbejdsnoter.
Hvor opstår bias og ulige kvalitet?
Bias kan opstå i træningsdata, i brugerinput, i den måde opgaven stilles på, og i den måde output bruges. WHO peger på, at store multimodale modeller kan være trænet på data af lav kvalitet eller data, der er skæve efter blandt andet race, etnicitet, køn, alder eller andre forhold. I sundhed kan den slags skævheder give forskellige svar til patienter med forskellige baggrunde, selv når deres behov er sammenlignelige.
Bias er ikke altid synligt som en grov fejl. Det kan være en tendens til at undervurdere bestemte symptomer, foreslå forklaringer, der passer bedre til én gruppe end en anden, eller bruge sprog, som nogle patienter har sværere ved at handle på. En model kan også give mere detaljerede svar på sygdomme, der er rigt beskrevet i åbne kilder, og svagere svar på sjældne eller underbelyste tilstande.
Derfor bør testmateriale afspejle den virkelige brugergruppe. Hvis en chatbot skal støtte patientkommunikation i Danmark, bør den testes på forskellige sprogniveauer, aldersgrupper, kliniske situationer og typiske misforståelser. Hvis den skal støtte personale, bør testene omfatte både normale cases, grænsetilfælde og eksempler, hvor det rigtige svar er at afvise opgaven.
Arbejdet med bias i AI bør være løbende. En model kan ændre adfærd, når leverandøren opdaterer den, når arbejdsgangen ændres, eller når brugere begynder at stille spørgsmål på nye måder. Kvalitet er derfor ikke en engangstest, men en kombination af måling, fejlrapportering og justering.
Hvad betyder EU-regler og medicinsk ansvar?
EU AI Act ændrer ikke alle former for ChatGPT-brug til højrisiko-AI. En generel tekstassistent til interne udkast er noget andet end et system, der indgår i medicinsk udstyr, beslutningsstøtte eller behandling af personer. Risikoklassen afhænger af formål, funktion, kontekst og konsekvens.
For højrisiko-AI stiller EU AI Act krav om blandt andet gennemsigtighed, menneskelig overvågning, nøjagtighed, robusthed og cybersikkerhed. Forordningen nævner også, at personer, der overvåger et højrisikosystem, skal kunne forstå systemets kapaciteter og begrænsninger, opdage fejl og kunne vælge ikke at bruge, tilsidesætte eller afbryde systemets output. Det er særligt relevant, når et system kan påvirke sundhed, sikkerhed eller grundlæggende rettigheder.
Medicinsk ansvar kan ikke outsources til en chatbot. Hvis en organisation bruger ChatGPT i en arbejdsgang, skal det være klart, hvem der ejer formålet, hvem der godkender brugen, hvem der vurderer fejl, og hvem der har kompetence til at stoppe funktionen. For sundhedspersoner betyder det, at AI-output bør ses som materiale, der skal vurderes, ikke som en autoritet.
Det praktiske spørgsmål er derfor ikke kun, om ChatGPT kan svare. Spørgsmålet er, om brugen kan forklares, dokumenteres, kontrolleres og afbrydes. Det er her risikostyring i AI-implementeringer bliver en nødvendig del af arbejdet, især når teknologien bevæger sig tæt på patienter eller kritiske processer.
Hvordan kan organisationer teste kvaliteten før brug?
Kvalitetstest bør begynde med konkrete opgaver, ikke med generelle demonstrationer. En organisation kan samle realistiske cases uden unødvendige personoplysninger og lade relevante fagpersoner vurdere output efter faste kriterier. Kriterierne kan være korrekthed, klarhed, sikkerhed, dataminimering, henvisning til fagperson og evne til at sige nej.
Testen bør også indeholde negative cases. Det er cases, hvor ChatGPT ikke skal forsøge at hjælpe videre, men skal afvise, foreslå kontakt til sundhedsfaglig hjælp eller markere, at opgaven kræver en professionel vurdering. Negative cases er særligt nyttige, fordi mange fejl i generativ AI opstår, når modellen prøver at være hjælpsom i situationer, hvor begrænsning er den sikreste adfærd.
En moden test dækker flere dimensioner. Den ser ikke kun på, om svaret lyder pænt, men på om det er fagligt korrekt, om det oversælger sikkerhed, om det håndterer usikkerhed, om det bruger passende sprog, og om det undgår at give personrettede konklusioner uden grundlag.
- Faktatjek: Stemmer indholdet med aktuelle kliniske kilder eller lokale retningslinjer?
- Risikotjek: Kan svaret få patienten eller medarbejderen til at handle uhensigtsmæssigt?
- Datatjek: Er der sendt flere oplysninger til modellen end nødvendigt?
- Bias-tjek: Er kvaliteten stabil på tværs af sprog, alder, køn, funktionsniveau og kliniske variationer?
- Driftstjek: Kan fejl spores, rapporteres og føre til ændringer i arbejdsgangen?
Hvornår bør ChatGPT ikke bruges?
ChatGPT bør ikke bruges som selvstændig kilde til diagnose, akut triage, dosering, behandlingsvalg eller afgørelser om adgang til sundhedsydelser. Den bør heller ikke bruges til at behandle identificerbare helbredsoplysninger i et generelt miljø uden godkendt databeskyttelse. I de situationer kan en hurtig tekstproduktion skabe mere risiko end værdi.
Teknologien bør også fravælges, når svaret ikke kan kontrolleres. Hvis brugeren ikke har faglig viden nok til at vurdere output, eller hvis organisationen ikke har adgang til opdaterede kilder og ansvarlige personer, bliver modellen en sort boks med pænt sprog. Det er en svag position i sundhed, hvor fejl ofte først opdages, når de får konsekvenser.
Der er også situationer, hvor menneskelig relation er en del af behandlingen. Sorg, alvorlige diagnoser, komplekse valg og usikker prognose kræver ikke kun korrekt information, men også empati, kontekst og professionel dømmekraft. En chatbot kan støtte forberedelse eller formulering, men bør ikke erstatte samtalen, hvor patientens behov, reaktioner og spørgsmål mødes direkte.
Hvis en organisation er i tvivl, bør den begynde med lavrisikoopgaver. Det kan være intern læring, generelle forklaringer, standardiserede udkast eller simulation. Først når datagrundlag, kvalitet, ansvar og stopregler er dokumenteret, giver det mening at overveje mere følsomme arbejdsgange.
Hvordan kan teknologien bruges mere ansvarligt fremover?
Ansvarlig brug kræver, at ChatGPT vurderes som en del af et system. Det omfatter mennesker, instruktioner, data, arbejdsgange, teknisk sikkerhed, leverandørvilkår, logning og kvalitetsmåling. Hvis kun modellen vurderes, overses de steder, hvor fejl typisk opstår: uklare formål, dårlige data, manglende gennemgang eller overtro på automatisering.
En ansvarlig model for brug kan bygges trinvist. Først afgrænses lavrisikoopgaver. Derefter testes output på realistiske cases. Så beskrives, hvilke data der må bruges, hvem der kontrollerer svarene, og hvordan fejl rapporteres. Til sidst vurderes, om værktøjet faktisk forbedrer kvalitet, tilgængelighed eller effektivitet uden at øge risikoen for patienter eller personale.
Fremtidens mest robuste anvendelser bliver sandsynligvis dem, hvor ChatGPT ikke optræder som en selvstændig digital læge, men som et kontrolleret støtteled. Det kan være bedre forklaringer, bedre forberedelse, hurtigere administrative udkast og mere tilgængelig træning. Den fælles betingelse er, at mennesker med relevant kompetence kan forstå, kontrollere og tilsidesætte output.
Potentialet er derfor reelt, men det er betinget. ChatGPT kan hjælpe med at gøre sundhedsinformation mere tilgængelig og arbejdsgange mere effektive. Etisk forsvarlig brug kræver, at teknologien får en afgrænset rolle, at patienter ikke mister klarhed over ansvar, og at organisationer kan dokumentere, hvordan fejl, bias og datarisici håndteres.
Hvilke kilder ligger til grund?
Kildegrundlaget omfatter især WHO’s vejledning om store multimodale modeller i sundhed, OpenAIs aktuelle usage policies og NIST’s AI Risk Management Framework.
Reguleringsdelen bygger på EUR-Lex-versionerne af EU AI Act og GDPR. Kilderne er brugt til at afgrænse sundhedsdata, højrisiko-AI, menneskelig kontrol, automation bias og krav om dokumenteret risikostyring.