OpenAI foreslår internationale tekniske standarder for AI-systemer, der hjælper med at udvikle nye AI-modeller. Forslaget skal gøre fremskridt, menneskelig kontrol og sikkerhedshændelser sammenlignelige på tværs af laboratorier og lande, men det er endnu hverken en vedtaget standard eller en ny lov.
OpenAI foreslår globale tekniske standarder for AI-systemer, der deltager i udviklingen af nye modeller. Forslaget skal gøre autonom forskning, menneskelig kontrol og sikkerhedshændelser sammenlignelige, men er endnu hverken en vedtaget standard eller en ny lov.
Hvad har OpenAI foreslået?
OpenAI offentliggjorde 21. september 2026 et forslag om globale tekniske standarder for frontier-AI og automatiseret AI-forskning. Selskabet peger på to hovedelementer: et internationalt samarbejde om supplerende nationale og globale standarder samt fælles metoder til måling og rapportering af hændelser.
Forslaget er rettet mod den forskning, hvor AI-systemer overtager flere dele af arbejdet med at udvikle næste generation af modeller. OpenAI ønsker, at USA leder processen gennem eksisterende offentlige institutioner og i samarbejde med andre lande, forskere, standardiseringsorganisationer og både åbne og lukkede modeludviklere.
Hvad betyder AI-drevet forskning?
AI-drevet forskning betyder her, at modeller bruges til opgaver i selve AI-udviklingen. Det kan være at skrive forskningskode, designe evalueringer, analysere forsøg, finde fejl eller overvåge træningsforløb. Mennesker kan fortsat vælge mål, bedømme resultater og afgøre, om et forsøg skal fortsætte.
Det er mere afgrænset end et fuldt selvstændigt forskningssystem. En AI-agent kan udføre flere tekniske trin, uden at den dermed har myndighed til at ændre en model, bruge produktionsdata eller sætte en ny model i drift.
Hvad er rekursiv selvforbedring?
Rekursiv selvforbedring, ofte forkortet RSI efter det engelske recursive self-improvement, beskriver en proces, hvor AI bidrager til at udvikle mere kapable AI-systemer, som derefter kan bidrage til næste udviklingsrunde. Flere led kan fortsat være styret af mennesker, selv om en større del af forskningssløjfen automatiseres.
OpenAI skriver udtrykkeligt, at fuldt autonom RSI ikke finder sted i dag, og at virksomheden ikke mener, processen bør forfølges, før den kan foregå sikkert. Begrebet beskriver derfor en mulig udviklingsretning og et styringsproblem, ikke en dokumenteret nutidig evne til, at en model frit kan forbedre sig selv.
Hvilke fælles standarder bliver foreslået?
Forslaget samler standardiseringsarbejdet omkring tre praktiske områder:
- måling af kapabiliteter og af, hvor meget forskning AI-systemer udfører autonomt
- krav til menneskelig kontrol, herunder hvilke hændelser der straks skal udløse menneskelig gennemgang
- fælles niveauer, tærskler og procedurer for klassifikation, registrering og rapportering af sikkerhedshændelser
Det ligger tæt på formålet med struktureret rapportering af modelmisalignment: Organisationer skal kunne beskrive forskellige hændelser med sammenlignelige begreber i stedet for kun at offentliggøre deres egne, indbyrdes uforenelige vurderinger.
Hvorfor er fælles målinger nødvendige?
Antallet af agenttimer, skrevne kodelinjer eller gennemførte eksperimenter fortæller ikke alene, hvor meget forskning der reelt er automatiseret. Et system kan producere meget kode og stadig kræve gentagne rettelser, forkertolke opgaven eller overse en sikkerhedsfejl.
En fælles målemetode skal derfor både definere opgaven, graden af menneskelig indgriben, resultatets kvalitet og konsekvensen ved fejl. Det samme princip gælder automatiseret alignment: En bestået kontrol er kun meningsfuld, hvis evalueringsmetode, usikkerhed og afgrænsning følger med resultatet.
Hvad ved vi om automatiseringen i dag?
OpenAIs egne målinger fra september 2026 viser, at kodningsagenter fylder mere i selskabets forskningsarbejde. Virksomheden beskriver et internt system, der kan løse veldefinerede opgaver under menneskelig ledelse, som en erfaren forsker ellers kunne bruge nogle dage på.
De samme data viser begrænsningen. På vellykkede opgaver vurderet til fire til otte timers menneskeligt arbejde krævede over halvdelen mindst én menneskelig indgriben. OpenAI understreger også, at mere kode og flere eksperimenter er vanskelige at omsætte direkte til hurtigere forskningsfremskridt. Tallene er interne observationer, ikke en uafhængig dokumentation af fuld forskningsautonomi.
Hvilke risici skal standarderne gøre synlige?
Når AI får adgang til kode, beregningsmiljøer og evalueringsværktøjer, kan en fejl påvirke mere end et enkelt svar. En agent kan vælge en misvisende måling, ændre et forsøg på en uventet måde eller udnytte en adgang, som kun var tiltænkt testmiljøet. Risikoen afhænger derfor både af modellen og af de rettigheder, data og systemer, der omgiver den.
Tekniske standarder kan gøre krav til logning, adskillelse af miljøer, stopmekanismer og menneskelige beslutningspunkter lettere at sammenligne. De kan også skabe et fælles sprog for hændelser, men de forhindrer ikke i sig selv fejl. Metoder som test i simulerede driftsmiljøer er fortsat nødvendige for at undersøge adfærd før bred anvendelse.
Hvordan adskiller en standard sig fra en lov?
| Lag | Funktion | Begrænsning |
|---|---|---|
| Teknisk standard | Definerer fælles målinger, test og rapporteringsformater | Er ikke automatisk juridisk bindende |
| Intern kontrol | Bestemmer adgang, stopregler og godkendelser i en organisation | Kan variere mellem leverandører og være vanskelig at efterprøve udefra |
| Lovgivning | Fastlægger rettigheder, pligter og myndighedstilsyn | Beskriver ikke nødvendigvis alle tekniske testmetoder |
OpenAI foreslår ikke licenser, obligatorisk forhåndskontrol eller en international godkendelse af modeller. Nationale myndigheder skal ifølge forslaget selv beslutte, om og hvordan tekniske standarder indarbejdes i deres regler. En standard kan altså understøtte dokumentation uden at erstatte lovgivning.
Hvad betyder forslaget for organisationer i Danmark?
Den direkte virkning er foreløbig begrænset, fordi der er tale om et leverandørforslag. Hvis fælles standarder senere bliver vedtaget og brugt bredt, kan de gøre det lettere for virksomheder, universiteter og offentlige forskningsmiljøer at sammenligne leverandørers evalueringer, hændelsesniveauer og kontrolforanstaltninger.
EU’s AI-forordning er et særskilt juridisk spor med risikobaserede pligter for udbydere og anvendere. Tekniske standarder kan med tiden blive en del af den dokumentation, en organisation bruger, men de skaber ikke automatisk overholdelse. Indkøbere må fortsat undersøge det konkrete systems formål, dataflow, adgangsrettigheder og menneskelige kontrol.
Hvad bør et forskningsmiljø kontrollere i praksis?
Et laboratorium eller en udviklingsafdeling kan begynde med at beskrive forskningssløjfen frem for kun at navngive modellen. Kontrollen bør vise, hvor AI kan handle, hvor et menneske skal godkende, og hvilke spor der bevares.
- Afgræns hvilke kodebaser, datasæt, nøgler og beregningsmiljøer agenten kan nå.
- Fastlæg stopregler for uventede handlinger, nye kapabiliteter og afvigelser i evalueringer.
- Registrer både vellykkede og fejlslagne forsøg samt menneskelige indgreb.
- Adskil modellens testresultat fra sikkerheden i det samlede system.
En stærkere model som GPT-6 Astra ændrer ikke disse grundprincipper. Flere kapabiliteter kan tværtimod gøre rettighedsstyring, overvågning og uafhængig kontrol mere centrale.
Hvilke begrænsninger har OpenAIs forslag?
Forslaget kommer fra en virksomhed, der selv udvikler frontier-modeller og automatiserer dele af sin forskning. Det giver konkret erfaring, men også en klar institutionel interesse i, hvordan kravene udformes. Dokumentet fastlægger heller ikke præcise tærskler, revisionsmetoder eller sanktioner.
Fælles standarder løser heller ikke automatisk uenighed om acceptable risici, adgang til fortrolige beviser eller forholdet mellem åbne og lukkede modeller. Uafhængige forskere, myndigheder, mindre modeludviklere og civilsamfund skal kunne efterprøve både målemetoder og de antagelser, som standarderne bygger på.
Hvad kan der ske som næste skridt?
OpenAI peger på det eksisterende internationale netværk for AI-måling, evaluering og videnskab som mulig ramme. Netværket blev etableret i 2024 og omfattede ifølge NIST i februar 2026 offentlige organer fra ti deltagere, herunder EU og flere nationale AI-sikkerhedsinstitutter.
Det næste afgørende skridt er derfor ikke endnu en principerklæring, men konkrete definitioner: Hvilken autonom forskning skal måles, hvilke hændelser skal rapporteres, og hvem kan kontrollere dokumentationen? Før sådanne specifikationer er aftalt og afprøvet, er forslaget et politisk og teknisk oplæg.
Hvilke kilder ligger til grund?
Artiklen bygger på OpenAIs forslag til internationale standarder og selskabets målinger af AI-drevet forskning. Det institutionelle grundlag er kontrolleret mod NISTs beskrivelse af det internationale evalueringsnetværk, mens den europæiske afgrænsning bygger på EU-Kommissionens oversigt over AI-forordningen.