Google DeepMinds AI Control Roadmap er en sikkerhedsramme for avancerede AI-agenter, der får adgang til interne systemer. Pointen er ikke, at agenter allerede bevidst handler skadeligt, men at organisationer skal kunne opdage, begrænse og stoppe skadelige handlinger, hvis mere autonome modeller bruges i følsomme arbejdsgange. Hvad har Google DeepMind offentliggjort? Google DeepMind offentliggjorde den 18. … Læs mere
OpenAI offentliggjorde 16. juni 2026 en metode kaldet Deployment Simulation. Metoden bruges til at forudsige, hvordan en ny model sandsynligvis vil opføre sig, før den bliver frigivet til brugere. I stedet for kun at teste modellen med særligt udvalgte evalueringsopgaver genskaber OpenAI realistiske samtaleforløb fra tidligere brug og lader en kandidatmodel svare i den sammenhæng. … Læs mere
USA’s regering offentliggjorde 2. juni 2026 en ny bekendtgørelse om avanceret kunstig intelligens, cybersikkerhed og såkaldte frontier-modeller. Nyheden handler ikke om et enkelt nyt AI-produkt, men om hvordan myndigheder vil samarbejde med modeludviklere om sårbarheder, tidlig test og beskyttelse af kritisk infrastruktur. Hvad er den centrale nyhed? Den primære nyhed er, at Det Hvide Hus … Læs mere
Anthropic udvidede den 2. juni 2026 programmet Project Glasswing fra en indledende gruppe på omkring 50 partnere til cirka 150 organisationer. Programmet giver udvalgte sikkerhedsteams adgang til modellen Claude Mythos Preview, som bruges til at gennemgå kodebaser for sårbarheder. Nyheden handler derfor ikke kun om Anthropic, men om en bredere udvikling, hvor AI i stigende … Læs mere
OpenAI offentliggjorde 29. maj 2026 en vejledning om, hvordan uafhængige tredjeparts-evalueringer af avancerede AI-modeller bør gennemføres. Nyheden handler ikke om en ny model, men om måden modeller bliver testet på. Det er relevant, fordi moderne AI-systemer ikke kun svarer på en enkelt prompt. De kan bruge værktøjer, arbejde over mange trin og indgå i større … Læs mere
Microsoft har udvidet sin indsats mod deling af intime billeder uden samtykke, også når billederne er AI-genererede. Nyheden handler om rapportering, hash-baseret genkendelse og beskyttelse på tværs af tjenester som Teams Free, OneDrive og Xbox. I Microsofts egen gennemgang af tiltag mod non-consensual intimate imagery beskrives ændringerne som en udvidelse af eksisterende sikkerhedsarbejde. Microsoft nævner … Læs mere
AI kan styrke eksisterende sikkerhedssystemer, når integrationen afgrænses til tydelige opgaver, kontrollerede dataflow og sporbare beslutninger. Fokus er praktiske valg om adgang, test, drift, leverandørkrav, incident response og stopkriterier, så AI ikke bliver en ny angrebsflade.
AI kan styrke phishingforsvar ved at finde mønstre i beskeder, afsendere, links og loginadfærd, men teknologien skal kombineres med mailautentificering, phishing-resistente loginmetoder og klare reaktionsprocesser. Overblikket forklarer, hvor AI hjælper, hvor fejl opstår, og hvilke kontroller der giver mest robust beskyttelse.
Bias i AI kan ikke fjernes helt, men kan styres gennem datakontrol, test, dokumentation, menneskelig vurdering og løbende overvågning. Fokus er, hvor skævheder opstår, hvordan de måles, og hvornår et AI-system bør begrænses eller stoppes.
Open source AI kan give gennemsigtighed og lokal kontrol, men sikkerheden afhænger af provenance, modelartefakter, dataflow, integrationer og drift. Overblikket viser, hvordan åbne modelvægte, supply chain-risici, instruktionsinjektion og datalækage bør vurderes før en model bruges i produktion.