Microsoft har udvidet sin indsats mod deling af intime billeder uden samtykke, også når billederne er AI-genererede. Nyheden handler om rapportering, hash-baseret genkendelse og beskyttelse på tværs af tjenester som Teams Free, OneDrive og Xbox.
I Microsofts egen gennemgang af tiltag mod non-consensual intimate imagery beskrives ændringerne som en udvidelse af eksisterende sikkerhedsarbejde. Microsoft nævner både rigtige billeder og syntetiske billeder skabt eller ændret med AI.
Hvad er non-consensual intimate imagery?
Non-consensual intimate imagery, ofte forkortet NCII, betyder intime billeder eller videoer, der deles uden samtykke. Det kan være ægte billeder, manipulerede billeder eller AI-genererede billeder.
Begrebet dækker ikke kun teknologien bag billedet. Det handler om, at en persons private eller intime fremstilling spredes uden kontrol og uden tilladelse.
AI har gjort problemet bredere, fordi syntetiske billeder kan ligne virkelige personer uden at være optaget med et kamera. Det knytter emnet til deepfakes og til bredere spørgsmål om digital identitet og misbrug.
Hvad har Microsoft ændret?
Microsoft har styrket sine globale rapporteringsprocesser for NCII. Selskabet beskriver en mere intuitiv formular, hvor brugere kan beskrive skade, herunder om der er tale om ægte eller AI-genererede billeder.
Microsoft skriver også, at politikken anvendes på både reelt og syntetisk indhold. Det betyder, at skadevirkningen ikke behandles som mindre alvorlig, blot fordi billedet er genereret eller manipuleret med AI.
Derudover udvider Microsoft brugen af validerede hashes fra StopNCII.org på tværs af flere forbrugertjenester. Det omfatter Teams Free, OneDrive og Xbox.
Hvordan fungerer hash-baseret genkendelse?
Hash-baseret genkendelse betyder, at et billede kan omdannes til et digitalt fingeraftryk. Fingeraftrykket kan bruges til at genkende kendt skadeligt indhold uden nødvendigvis at dele selve billedet mellem tjenester.
Microsoft skriver, at StopNCII.org giver personer mulighed for at oprette et hash af deres billeder. Microsoft har tidligere leveret en version af PhotoDNA, der kan hjælpe med at skabe et hash uden at billedet forlader personens enhed.
Når et valideret hash bruges af deltagende platforme, kan platformene opdage og fjerne matchende NCII-indhold. Microsoft oplyser, at brugen af StopNCII.org-hashes blev afprøvet i Bing fra september 2024 og nu er udvidet til flere tjenester.
| Trin | Hvad sker der? |
|---|---|
| 1 | Personen opretter et digitalt fingeraftryk af billedet. |
| 2 | Platforme kan bruge hashet til at opdage kendte matches. |
| 3 | Indhold kan fjernes eller sendes til gennemgang efter platformens proces. |
Hvorfor er AI-genererede billeder en særlig udfordring?
AI-genererede billeder kan skabe intime fremstillinger af personer, der aldrig har poseret for billedet. Det kan gøre skaden sværere at forstå med traditionelle regler, der kun fokuserer på optagede billeder.
Microsofts tekst behandler ægte og syntetisk indhold under samme skadesforståelse. Det betyder, at spørgsmålet ikke kun er, om billedet er autentisk. Spørgsmålet er også, om billedet fremstiller en person intimt uden samtykke.
Det berører også emner som AI og privatliv, fordi syntetisk indhold kan påvirke en persons omdømme, tryghed og kontrol over egen identitet.
Hvilke Microsoft-tjenester nævnes?
Microsoft nævner Teams Free, OneDrive og Xbox som tjenester, hvor brugen af validerede StopNCII.org-hashes nu er udvidet. Tidligere blev brugen af disse hashes afprøvet i Bing.
Det viser, at problemet ikke kun knytter sig til sociale medier. Intime billeder uden samtykke kan spredes gennem cloudlagring, spilfællesskaber, beskedtjenester og søgning.
- Bing blev brugt som pilotområde fra september 2024.
- Teams Free nævnes som en del af den udvidede indsats.
- OneDrive nævnes, fordi filer kan deles via links og cloudlagring.
- Xbox nævnes som en forbrugertjeneste med onlinefællesskaber.
Hvordan indgår menneskelig gennemgang og klagemuligheder?
Microsoft skriver, at ændringerne skal implementeres med fokus på effektivitet og nøjagtighed. Selskabet nævner hurtigere fjernelser, automatisering hvor det giver mening, menneskelig gennemgang i rapporterede sager og klare klagemuligheder.
Den kombination er central i indholdsmoderation. Automatisering kan hjælpe med skala, men menneskelig gennemgang kan være nødvendig, når konteksten er svær, eller når en beslutning skal kunne anfægtes.
Det hænger sammen med bredere AI-sikkerhedsprotokoller, hvor tekniske systemer skal kobles med proces, ansvar og mulighed for kontrol.
Hvilken rolle spiller lovgivning og samarbejde?
Microsoft placerer ændringerne i en bredere juridisk og samfundsmæssig kontekst. Selskabet nævner blandt andet den amerikanske Take It Down Act, EU’s arbejde med beskyttelse mod nudification-apps og Ofcoms arbejde under UK Online Safety Act.
Microsoft skriver også, at ingen enkelt virksomhed kan håndtere NCII alene. Problemet kræver samarbejde mellem industri, myndigheder og civilsamfund.
Det er relevant, fordi deling af skadeligt indhold ofte sker på tværs af tjenester. Et billede kan uploades ét sted, deles et andet sted og findes gennem en tredje tjeneste.
Hvad betyder ændringen for almindelige brugere?
For almindelige brugere betyder ændringen, at rapporteringsveje og beskyttelsesmekanismer gradvist bliver mere rettet mod AI-genereret misbrug. En person, der rammes af syntetisk intimt indhold, skal ikke nødvendigvis bevise, at billedet er ægte for at rapportere skaden.
Det betyder også, at platforme i højere grad bruger tekniske signaler som hashes til at forhindre genspredning af kendt indhold. Den slags systemer fungerer bedst, når de kombineres med gennemsigtige processer og mulighed for menneskelig vurdering.
Nyheden viser, hvordan sikkerhedsudfordringer ved generativ AI ikke kun handler om tekst, kode eller misinformation. De handler også om personlige billeder, samtykke og kontrol over digital identitet.