Kunstig intelligens og etik i forskning

Kunstig intelligens og etik i forskning handler om at bruge AI som støtte til analyse, skrivning, søgning og databehandling uden at svække forskningsintegritet, ansvar, transparens eller beskyttelse af mennesker og data. AI kan styrke forskningsarbejde, men den kan ikke overtage forskerens ansvar for metode, dokumentation og konklusioner.

Hvad betyder kunstig intelligens og etik i forskning?

Kunstig intelligens i forskning dækker systemer, der kan finde mønstre, generere tekst, kode eller billeder, analysere store datamængder og støtte beslutninger i forskningsprocesser. Etikken handler ikke kun om, om teknologien virker. Den handler om, om brugen kan forklares, kontrolleres og forenes med god videnskabelig praksis.

Et nyttigt udgangspunkt er at skelne mellem tre lag: værktøjet, arbejdsprocessen og resultatet. Et AI-værktøj kan være teknisk stærkt, mens arbejdsprocessen stadig er etisk svag, hvis forskeren ikke kan dokumentere input, datagrundlag, kontroltrin eller begrænsninger. Omvendt kan et mere enkelt værktøj bruges ansvarligt, hvis formål, data, metode og menneskelig kontrol er tydelige.

AI-etik i forskning ligger derfor tæt på forskningsintegritet. Den handler om pålidelighed i metode, ærlighed om brugen, respekt for deltagere og data samt ansvar for resultaternes konsekvenser. Det gør emnet relevant på tværs af laboratorier, humaniora, samfundsvidenskab, sundhedsforskning og tekniske forskningsmiljøer.

Hvor kan AI styrke forskningsarbejde uden at overtage ansvaret?

AI kan være nyttig i dele af forskningsarbejdet, hvor opgaven er afgrænset, kontrollerbar og efterprøvbar. Det kan være støtte til at strukturere noter, sammenfatte store tekstmængder, oversætte foreløbige arbejdstekster, skrive kode til dataanalyse eller finde mulige mønstre i datamateriale. I sådanne situationer bør AI ses som et hjælpemiddel, ikke som en faglig autoritet.

Generativ AI kan især spare tid, når forskeren allerede har domænekendskab nok til at vurdere outputtet. En biolog, jurist, historiker eller dataanalytiker kan bruge AI til at skabe et første overblik, men skal stadig kontrollere kilder, begreber, fejl og metodiske antagelser. Læseren kan med fordel se AI som et avanceret arbejdsredskab på linje med statistiksoftware, søgeværktøjer eller laboratorieudstyr: nyttigt, men kun forsvarligt under klare rammer.

Hvis du vil forstå de tekniske grundbegreber bag feltet, giver AI Mentors forklaring af hvad der definerer kunstig intelligens et relevant udgangspunkt. I forskningsetik er pointen derefter at flytte fokus fra teknologisk kapacitet til dokumenteret brug, kontrol og ansvar.

Hvilke etiske risici opstår i forskningsprocessen?

Risici opstår, når AI ændrer en forskningsproces på en måde, der ikke bliver synlig for læsere, bedømmere, deltagere eller institutionen. Det kan ske ved skjult brug i litteraturarbejde, automatisk omskrivning af resultater, ukritisk analyse af data eller upload af materiale, som indeholder fortrolige oplysninger. Risikoen er ikke kun fejl i et enkelt svar, men at forskningsprocessen bliver svær at efterprøve.

En central risiko er, at AI-systemer kan producere plausibelt indhold uden sikker forbindelse til korrekte kilder. De kan også forstærke bias fra træningsdata, give skæve sammenfatninger eller foreslå sammenhænge, som ikke er dokumenteret i datamaterialet. Når den slags output glider ind i metode, resultater eller diskussion uden kontrol, kan det svække både kvalitet og tillid.

Etiske risici bliver stærkere, når forskningen vedrører mennesker, sundhedsdata, minoritetsgrupper, sikkerhed, offentlig forvaltning eller kommercielt følsomme data. I de tilfælde bør AI ikke blot vurderes efter effektivitet. Den skal vurderes efter, om den ændrer risikoen for skade, diskrimination, tab af fortrolighed, forkert beslutningsgrundlag eller manglende mulighed for at gøre indsigelse.

Hvordan bør forskere håndtere transparens og dokumentation?

Transparens betyder, at væsentlig brug af AI beskrives så konkret, at andre kan forstå dens rolle i forskningen. Det kan omfatte værktøjets navn, version eller dato, typen af input, formålet med brugen, hvilke dele af processen der blev påvirket, og hvordan output blev kontrolleret. Almindelig sproglig støtte behøver ikke altid samme detaljeringsgrad som AI-brug, der former analyse, metode eller resultater.

Dokumentation bør følge forskningsprocessen, ikke tilføjes som pynt til sidst. Hvis AI bruges til at formulere hypoteser, identificere forskningshuller, analysere data eller sammenfatte litteratur, bør forskeren kunne forklare, hvilke trin der var menneskelige, hvilke der var maskinstøttede, og hvilke kontroller der blev udført. Det gør brugen lettere at vurdere for vejledere, medforfattere, tidsskrifter, fonde og etiske komiteer.

En enkel dokumentationsrutine kan bestå af fire felter: formål, inputtype, kontroltrin og begrænsninger. Formålet beskriver, hvorfor AI blev brugt. Inputtypen beskriver, om der indgik offentligt, internt, personfølsomt eller upubliceret materiale. Kontroltrinnet viser, hvordan output blev efterprøvet. Begrænsningerne angiver, hvad værktøjet ikke kan dokumentere.

Hvornår bør AI ikke bruges i forskning?

AI bør fravælges, når brugen gør det sværere at beskytte deltagere, bevare fortrolighed, vurdere originalt arbejde eller placere ansvar. Det gælder især, hvis værktøjet kræver upload af upublicerede manuskripter, persondata, forskningsdata med begrænset adgang eller materiale fra andre forskere, som brugeren ikke har ret til at dele.

EU’s retningslinjer for generativ AI i forskning anbefaler særlig tilbageholdenhed i følsomme aktiviteter som peer review og evaluering af forskningsforslag. Grunden er, at sådanne opgaver handler om andre forskeres upublicerede arbejde, fortrolighed og retfærdig bedømmelse. Her kan selv et effektivt værktøj skabe en uacceptabel risiko, hvis indholdet sendes til en ekstern tjeneste eller vurderes ud fra skjulte modelmønstre.

AI bør heller ikke bruges til at skabe, ændre eller pynte på forskningsdata, hvis det forvrænger den empiriske virkelighed. At rette sprog i en metodebeskrivelse er noget andet end at udfylde manglende observationer, opfinde citater eller omskrive resultater, så usikkerheden forsvinder. Den skelnen er afgørende for både naturvidenskabelig og samfundsvidenskabelig troværdighed.

Hvordan hænger forskningsetik sammen med databeskyttelse og ophavsret?

Forskningsetik bliver konkret, når data behandles i et AI-værktøj. Hvis input indeholder personoplysninger, fortrolige interviews, sundhedsdata, upublicerede resultater eller tredjeparts materiale, skal forskeren kende både institutionens regler og værktøjets databehandling. Et lukket lokalt system, et kontraktstyret cloudmiljø og en åben offentlig tjeneste giver ikke samme kontrol.

Databeskyttelse handler blandt andet om formål, adgang, opbevaring, sletning og retligt grundlag. Ophavsret handler blandt andet om, om input må deles, og om output kan være afledt af beskyttet materiale. AI ændrer ikke disse grundspørgsmål, men gør dem lettere at overse, fordi arbejdet ofte føles som en almindelig samtale med et værktøj.

AI Mentors gennemgang af generativ AI og datafortrolighed uddyber den praktiske spænding mellem produktivitet og privatliv. I forskning bør denne spænding afgøres før brug, ikke efter at data allerede er indsat i et system.

Hvilken rolle spiller bias, hallucinationer og forkert kildebrug?

Bias opstår, når et AI-system afspejler skævheder i data, modeldesign eller brugerens input. I forskning kan det påvirke alt fra søgestrategi og kodning af interviewdata til billedanalyse og risikovurdering. Bias er ikke altid synlig som en åbenlys fejl. Den kan fremstå som en systematisk forskydning i, hvilke kilder, grupper eller forklaringer der bliver fremhævet.

Hallucinationer er et andet problem: AI kan formulere svar, citater eller referencer, der lyder sandsynlige, men er forkerte. I forskningssammenhæng er det særligt kritisk, fordi et forkert citat kan sprede sig videre til litteraturgennemgange, undervisning, fondsansøgninger eller kliniske hypoteser. Kildekontrol skal derfor ske mod de oprindelige kilder, ikke kun mod AI-systemets egen forklaring.

Forkert kildebrug kan også være mere subtilt. En kilde kan eksistere, men blive gengivet forkert. En artikel kan være relevant, men ikke støtte den påstand, den bruges til. En model kan sammenblande resultater fra forskellige felter. Derfor bør AI-støttet kildearbejde altid ende med menneskelig læsning, faglig vurdering og tydelig afgrænsning af, hvad kilden faktisk viser.

Hvordan kan organisationer styre AI-brug i forskningsmiljøer?

Forskningsorganisationer kan ikke nøjes med at overlade AI-brug til individuelle forskeres dømmekraft. De bør skabe fælles rammer for, hvilke værktøjer der må bruges til hvilke opgaver, hvilke datatyper der ikke må indgå, hvordan væsentlig brug dokumenteres, og hvem der kan hjælpe med tekniske, etiske og sikkerhedsmæssige spørgsmål.

En god organisationsramme bør være praktisk nok til at blive brugt i hverdagen. Den kan indeholde en kort værktøjsliste, en dataklassifikation, krav til transparens, standarder for undervisning, procedurer for afvigelser og kontaktpunkter for forskere, der arbejder med følsomme data. Rammen bør også kunne ændres, fordi AI-værktøjer og forskningspraksis udvikler sig hurtigt.

For miljøer, der arbejder med sundhed, medicin eller biologiske data, er spørgsmålet ofte mere end tekstproduktion. AI kan indgå i dataanalyse, billedfortolkning, forsøgsdesign og hypotesedannelse. AI Mentors indføring i AI i biomedicinsk forskning viser, hvorfor domæneviden, dokumentation og risikostyring skal følges ad.

Hvad betyder EU AI Act for forskning?

EU AI Act er en risikobaseret EU-forordning om AI-systemer. Den regulerer blandt andet markedsføring, ibrugtagning, forbudte AI-praksisser, højrisikosystemer, transparenskrav og generelle AI-modeller. For forskere er den praktiske pointe ikke, at al forskningsbrug automatisk bliver et højrisikosystem. Pointen er, at forskningsbrug kan berøre flere roller: udvikler, udbyder, bruger, dataansvarlig eller institution.

Forordningen har afgrænsninger for forskning, udvikling og prototyping før markedsføring. Det betyder ikke, at alle AI-aktiviteter i et universitet eller forskningscenter er uden relevante regler. Hvis et AI-system placeres på markedet, bruges i en følsom sektor, indgår i beslutninger om personer eller bygger på persondata, kan andre dele af EU-reglerne og institutionens interne krav stadig være relevante.

Et forsigtigt arbejdsspørgsmål er derfor: Er AI-systemet kun et internt forskningsredskab, eller bliver det en del af et produkt, en service, en beslutning eller en vurdering af mennesker? Svaret påvirker, om fokus primært ligger på forskningsintegritet, databeskyttelse, produktregulering, højrisikoanalyse eller en kombination.

Hvordan vurderes AI i peer review, ansøgninger og bedømmelser?

Peer review, fondsansøgninger og akademiske bedømmelser kræver fortrolighed, fairness og faglig ansvarlighed. AI kan virke fristende til at sammenfatte materiale eller sammenligne ansøgninger, men netop disse opgaver vedrører ofte upubliceret viden og andre forskeres karrieremuligheder. Derfor bør væsentlig AI-brug i bedømmelse håndteres meget restriktivt.

Et centralt problem er asymmetri. Den person, der bliver vurderet, ved ikke nødvendigvis, at et AI-system indgår. Bedømmeren ved måske ikke, hvordan modellen prioriterer, udelader eller misforstår faglige detaljer. Og institutionen kan miste kontrol over fortrolige dokumenter, hvis de sendes til eksterne tjenester. Denne kombination gør peer review til en af de mest følsomme anvendelser.

Hvis AI bruges i administrative støttefunktioner omkring bedømmelse, bør rollen være klart afgrænset. Et system kan måske hjælpe med kalender, formalia eller sortering af åbne metadata. Det bør ikke alene vurdere originalitet, faglig kvalitet, etisk forsvarlighed eller bevillingsværdi. Den endelige vurdering skal kunne begrundes af mennesker med relevant ekspertise.

Hvilke kontrolpunkter kan bruges før et AI-værktøj indgår i et projekt?

Før et AI-værktøj indgår i et forskningsprojekt, bør du stille nogle faste spørgsmål. De gør det lettere at afgøre, om brugen er uproblematisk støtte, kræver ekstra dokumentation eller bør afvises.

Kontrolpunkterne er ikke en erstatning for etisk godkendelse, databehandleraftaler eller fagfællebedømmelse. De er en praktisk måde at gøre AI-brug synlig tidligt, før værktøjet bliver en uformel del af projektets metode.

Hvordan ser ansvarlig brug ud i praksis?

Ansvarlig brug begynder med en afgrænset opgave. En forsker kan for eksempel bruge AI til at skabe et foreløbigt overblik over egne noter, men bør derefter kontrollere begreber, kilder og fejl manuelt. Hvis opgaven flytter sig fra støtte til analyse, skal dokumentationen følge med.

Et ansvarligt forløb kan se sådan ud:

1. Definer formålet med AI-brugen, før værktøjet åbnes.
2. Frasorter data, som ikke må deles med det valgte system.
3. Gem de væsentlige beslutninger om værktøj, inputtype og kontrol.
4. Kontroller output mod originaldata, primærkilder eller faglige standarder.
5. Beskriv væsentlig brug åbent, når den påvirker metode, analyse eller resultat.

Den praktiske etik ligger ofte i grænsedragningen. AI kan hjælpe med at formulere et udkast til en kodningsmanual, men bør ikke skjult afgøre, hvordan tvetydige interviews fortolkes. AI kan hjælpe med at finde mulige svagheder i en metodebeskrivelse, men bør ikke opfinde referencer eller udjævne usikkerhed. AI kan støtte undervisning og læring, men skal bruges med samme forsigtighed omkring ansvar og transparens som i forskning. Den bredere sammenhæng beskrives også i AI Mentors tekst om undervisning og læring med ChatGPT.

Hvordan adskiller forskningsetik sig fra generel AI-etik?

Generel AI-etik handler ofte om samfundsmæssige værdier som fairness, forklarlighed, privatliv, sikkerhed, menneskelig kontrol og ikke-diskrimination. Forskningsetik bruger mange af de samme værdier, men omsætter dem til krav i en videnskabelig proces: metode, datagrundlag, kildebrug, forfatterskab, reproducerbarhed, deltagersamtykke og faglig ansvarlighed.

Det betyder, at en forsker ikke kan nøjes med at spørge, om et AI-værktøj virker rimeligt. Spørgsmålet er også, om brugen kan indgå i en forskningsproces, som andre kan efterprøve. Hvis AI har påvirket hypoteser, datakodning, analyse, litteraturudvælgelse eller konklusioner, bør det være muligt at forklare påvirkningen.

AI Mentors tekst om hvordan ChatGPT udfordrer etiske grænser viser den bredere debat om generativ AI og ansvar. I forskning bliver den debat mere konkret, fordi fejl kan få betydning for viden, offentlig tillid, behandlinger, politiske beslutninger eller videre forskning.

Hvilke kilder ligger til grund?

Artiklen bygger især på EU-Kommissionens Living guidelines on the responsible use of generative AI in research, ALLEA’s European Code of Conduct for Research Integrity, UNESCO’s Recommendation on the Ethics of Artificial Intelligence og EUR-Lex-teksten til Regulation (EU) 2024/1689.