AI og cybersecurity tendenser

AI og cybersecurity tendenser handler om to samtidige bevægelser: angribere bruger generativ AI til hurtigere research, phishing og automatisering, mens forsvarere bruger AI til detektion, prioritering og respons. Den vigtigste tendens er derfor ikke autonom magi, men hurtigere beslutningssløjfer og større krav til styring.

Hvad betyder AI for cybersecurity i 2026?

AI ændrer cybersikkerhed, fordi teknologien kan bruges på begge sider af konflikten. Den kan hjælpe et sikkerhedsteam med at gennemgå logs, korrelere hændelser og prioritere sårbarheder. Den kan også hjælpe en angriber med at skrive mere troværdige beskeder, oversætte lokkemateriale, analysere fejlmeddelelser og automatisere dele af en angrebskæde.

Den mest realistiske vurdering er ikke, at AI erstatter hele sikkerhedsfaget. Den gør snarere kendte opgaver hurtigere, billigere eller mere tilgængelige. Det betyder, at almindelige svagheder som dårlige adgangskoder, manglende patching, for brede rettigheder og svag logning bliver mere kritiske, fordi flere trin kan afprøves hurtigere.

NISTs Cybersecurity Framework 2.0 viser også, at moderne cybersikkerhed ikke kun er teknisk detektion. Rammen består af Govern, Identify, Protect, Detect, Respond og Recover. Den nye Govern-funktion er særlig relevant for AI, fordi ledelse, leverandørvalg, risikotolerance og ansvar bliver afgørende, når AI indgår i både forsvarsværktøjer og forretningssystemer.

Hvor ændrer generativ AI angribernes arbejdsform?

Generativ AI kan sænke friktionen i forberedelsesfasen. En angriber kan hurtigere omskrive phishingbeskeder, skabe varianter til flere målgrupper, forklare offentligt tilgængelige tekniske beskrivelser og strukturere information om et miljø. Det gør ikke nødvendigvis angriberen ekspert, men det kan reducere tidsforbruget på sprog, research og simpel kodetilpasning.

Den udvikling gør social engineering mere skalerbar. Tekster kan tilpasses rolle, branche og sprog, og syntetisk lyd eller video kan gøre presserende beskeder mere overbevisende. Derfor bør organisationer ikke kun træne medarbejdere i at genkende stavefejl eller dårligt sprog. De skal også have sikre processer for betalinger, adgangsændringer, datadeling og hastebeslutninger.

OWASPs oversigt over LLM-applikationsrisici peger desuden på manipulerende instruktioner, usikker outputhåndtering, læk af følsomme oplysninger og for bred handlefrihed som relevante risikoområder. Det betyder, at AI-baserede arbejdsflows skal sikres mod både klassiske cyberangreb og særlige mønstre, hvor tekstinput forsøger at styre modellen eller dens værktøjer.

Hvordan bruges AI til forsvar og detektion?

På forsvarssiden bruges AI især til at samle signaler. Et moderne miljø kan have endpointdata, netværkslogs, cloudhændelser, identitetsdata, tickets, e-mails, kodeændringer og leverandøralarmer. AI kan hjælpe med at gruppere relaterede hændelser og foreslå, hvilke spor der bør undersøges først.

Det er nyttigt, fordi sikkerhedsteams ofte drukner i advarsler. En AI-funktion kan opsummere en hændelse, forklare hvorfor den er mistænkelig, finde lignende mønstre og foreslå næste kontroltrin. Men den bør ikke alene lukke hændelsen, slette data eller blokere forretningskritiske systemer uden klare regler og menneskelig godkendelse ved høj risiko.

AI egner sig også til defensive opgaver som malwareklassifikation, sårbarhedsprioritering, phishinganalyse, kodegennemgang og dokumentation af hændelser. Effekten afhænger af datakvalitet, integration og evalueringsmetode. Et værktøj, der fungerer godt i en demo, kan give for mange falske positive eller overse lokale mønstre i drift.

Hvorfor bliver identitet og adgangsstyring mere centrale?

Når AI gør research og automatisering hurtigere, bliver legitim adgang endnu mere værdifuld. Mange angreb handler ikke om at bryde kryptografi, men om at bruge stjålne konti, tokens, sessioner eller leverandøradgang. Hvis en angriber først får gyldig adgang, kan AI hjælpe med at finde næste skridt i miljøet.

Derfor bliver identitetsstyring en af de mest praktiske AI-relaterede sikkerhedstrends. Organisationer bør reducere stående privilegier, bruge multifaktorbeskyttelse, overvåge risikofyldte loginmønstre og kræve stærkere godkendelse for handlinger med høj konsekvens. Adgang bør også være tidsbegrænset, rollebaseret og let at tilbagekalde.

For AI-værktøjer er adgangsstyring ekstra vigtig, fordi modellen kan få adgang til søgning, dokumenter, e-mail, kode, tickets eller eksterne værktøjer. En assistent med for brede rettigheder kan forstørre skaden ved en fejl, en misforståelse eller et manipuleret input. AI Mentors tekst om forebyggelse af datalækager i AI-applikationer uddyber denne del af risikoen.

Hvilke risici følger med AI i sikkerhedsværktøjer?

AI i sikkerhedsværktøjer kan give hurtigere analyse, men den skaber også nye fejlkilder. Modellen kan misforstå kontekst, overvurdere et svagt signal, foreslå en forkert afhjælpning eller gengive følsomme oplysninger i en ticket. Hvis output sendes direkte videre til scripts eller arbejdsflows, kan en forkert anbefaling få tekniske konsekvenser.

Et andet problem er forklarbarhed. Sikkerhedsteams skal kunne forstå, hvorfor en hændelse er prioriteret, og hvilke data vurderingen bygger på. Hvis en AI-score ikke kan forklares, er den svær at bruge i incident response, revision og ledelsesrapportering.

En god tommelfingerregel er, at AI må hjælpe med vurdering og forberedelse, men at automatiske handlinger skal være snævert afgrænsede. Det gælder især i miljøer med kritisk drift, persondata, betalingssystemer eller produktionsudstyr.

Hvordan påvirker AI sårbarhedshåndtering og patching?

AI gør sårbarhedshåndtering mere presserende, fordi både angribere og forsvarere kan analysere tekniske beskrivelser hurtigere. Når en ny sårbarhed offentliggøres, kan AI hjælpe med at forklare, hvilke systemer der kan være berørt, hvilke betingelser der skal være opfyldt, og hvilke afhjælpninger der er realistiske.

Det ændrer ikke grundopgaven: organisationen skal kende sine aktiver, eksponeringer, versionsnumre, leverandører og afhængigheder. Uden et ajourført overblik hjælper AI kun begrænset, fordi den ikke ved, hvad der faktisk findes i miljøet.

NIST CSF 2.0 lægger vægt på både identifikation, beskyttelse, detektion, respons og genopretning. I praksis betyder det, at patching ikke bør stå alene. Du bør også kunne begrænse rækkevidden af et kompromitteret system, opdage misbrug hurtigt og gendanne drift, hvis en rettelse ikke kan installeres straks.

Hvad betyder nye EU-regler for organisationer?

EU-regulering gør cybersikkerhed mere ledelsesnær. NIS2-direktivet etablerer ifølge Europa-Kommissionen en fælles ramme for cybersikkerhed i 18 kritiske sektorer og udvider krav til risikostyring, hændelsesrapportering, tilsyn og ledelsesansvar. Medlemsstaterne skulle gennemføre NIS2 i national ret senest 17. oktober 2024.

Cyber Resilience Act flytter samtidig en del af ansvaret over på producenter af hardware og software med digitale elementer. Forordningen trådte i kraft 10. december 2024. Rapporteringsforpligtelser begynder 11. september 2026, og hovedforpligtelserne gælder fra 11. december 2027.

For organisationer betyder det, at AI og cybersecurity ikke kan adskilles fra leverandørstyring. Hvis en AI-funktion indgår i et produkt, en service eller et internt workflow, bør der være dokumentation for sikker udvikling, sårbarhedshåndtering, adgangskontrol, logging og incident response. Det er ikke juridisk rådgivning, men et praktisk styringspunkt for teams i EU.

Hvordan bør organisationer beskytte egne AI-systemer?

Et AI-system bør ses som en applikation med en særlig angrebsflade. Den består af model, instruktioner, data, søgeindeks, værktøjer, integrationslag, output og brugerrettigheder. Hver del kan fejle eller misbruges. En sikker løsning starter derfor med et kort over dataflow og handlinger.

OWASPs LLM-risikoliste er nyttig som kontrolramme, fordi den ikke kun ser på modellen. Den omfatter også outputhåndtering, leverandørkæde, datalæk, usikre plugins, overdreven autonomi og overtiltro. AI Mentors forklaring af sikkerhedsudfordringer ved generativ AI går mere ind i de praktiske konsekvenser.

• Adskil systeminstruktioner fra brugerinput og eksternt indhold.
• Begræns værktøjsadgang til det, opgaven kræver.
• Log modelkald, datakilder og handlinger på et passende detaljeringsniveau.
• Valider output, før det bruges i kode, tickets, betalinger eller adgangsændringer.
• Test med manipulerede input, tomme data, gamle dokumenter og modstridende instruktioner.

Ved høj risiko bør AI-systemet også have en klar fallback. Hvis kilder mangler, hvis data virker manipulerede, eller hvis modellen foreslår en handling med høj konsekvens, bør systemet stoppe eller sende sagen til manuel behandling.

Hvilke data skal overvåges uden at skabe nye privatlivsproblemer?

AI kan gøre sikkerhedsovervågning mere effektiv, men den kan også udvide mængden af data, der behandles. Logs kan indeholde brugeradfærd, dokumenttitler, e-mailmetadata, filnavne, IP-adresser og tekniske hændelser, som indirekte fortæller meget om en person eller en afdeling.

Derfor bør overvågning have et klart formål. Sikkerhedsteamet bør vide, hvilke data der bruges til detektion, hvor længe de gemmes, hvem der kan se dem, og hvordan følsomme oplysninger maskeres. Modeller bør ikke fodres med hele datamængder, hvis en begrænset hændelsesbeskrivelse er nok.

NIST AI 600-1 fremhæver, at generativ AI-risici kan opstå på flere stadier af livscyklussen, herunder design, udvikling, deployment og drift. Overført til sikkerhedsovervågning betyder det, at privatliv, logging og dataminimering skal ind i arkitekturen tidligt, ikke først når værktøjet er i produktion.

Hvordan kan mindre teams prioritere uden at automatisere blindt?

Mindre teams bør ikke starte med at automatisere alt. De bør begynde med de beslutninger, hvor AI kan spare tid uden at øge konsekvensen af fejl for meget. Det kan være opsummering af alarmer, udkast til hændelsesnoter, gruppering af relaterede logs eller forslag til spørgsmål, som en analytiker bør undersøge.

Prioriteringen kan tage udgangspunkt i tre spørgsmål: Hvilke aktiver er vigtigst, hvilke adgangsveje er mest sandsynlige, og hvilke handlinger vil skade mest, hvis de automatiseres forkert? Den rækkefølge hjælper med at undgå værktøjsdrevet sikkerhed, hvor teamet køber AI-funktioner uden at vide, hvilket problem de løser.

1. Få styr på identiteter, MFA, backups, patching og aktivoversigt før avanceret automatisering.
2. Brug AI til at støtte analyse, men kræv manuel godkendelse ved blokering, sletning og adgangsændringer.
3. Start med få use cases, mål fejlrate og justér datakilder.
4. Dokumentér, hvornår AI-forslag må følges, og hvornår de kun er støtteinformation.

En enkel modenhedsmodel kan være mere nyttig end en stor platform. Hvis teamet ikke kan forklare datagrundlaget, rettighederne og stopreglerne, bør AI-funktionen ikke have direkte handlingsadgang.

Hvilke kompetencer bliver vigtigere for sikkerhedsteams?

AI ændrer kompetencebehovet i sikkerhedsarbejde. Analytikere skal stadig forstå netværk, identitet, cloud, endpoint, sårbarheder og incident response. Dertil kommer evnen til at vurdere modeloutput, formulere testcases, forstå datakvalitet og opdage, når AI-forslag virker plausible, men ikke er dokumenteret.

Security engineering og data governance rykker tættere sammen. Et team, der bruger AI til detektion, skal kunne forklare trænings- eller datagrundlag, evalueringsmetoder, false positive-rate, rollebaseret adgang og logpolitik. Et team, der beskytter AI-systemer, skal kunne teste modeladfærd, værktøjskald og manipulerede input.

Derfor bliver tværfaglighed en trend i sig selv. Juridiske, tekniske og organisatoriske roller behøver ikke kunne det samme, men de skal dele et fælles sprog for risiko. AI Mentors indføring i styrkelse af AI-modeller mod angreb beskriver flere af de tekniske forsvarslag.

Hvad bør ledelsen spørge om nu?

Ledelsen bør ikke nøjes med at spørge, om organisationen bruger AI i cybersikkerhed. Det mere præcise spørgsmål er, hvor AI allerede er indbygget i værktøjer, processer, leverandørkæde og medarbejdernes uformelle arbejdsgange. Skyggebrug kan skabe samme risiko som officielle løsninger, men uden kontrakt, logging og adgangsstyring.

Et nyttigt ledelsesoverblik bør dække fem punkter: hvor AI bruges, hvilke data der indgår, hvilke handlinger systemet kan udløse, hvem der godkender risikofyldte beslutninger, og hvordan fejl opdages. Hvis disse punkter ikke er kendt, er modenheden lav, uanset hvor avanceret værktøjet ser ud.

AI og cybersecurity tendenser peger derfor tilbage på klassisk disciplin: kend dine aktiver, begræns adgang, test antagelser, mål fejl og øv respons. Den nye forskel er tempoet. Når både angreb og forsvar får bedre automatisering, bliver organisationens evne til at styre ændringer lige så vigtig som det enkelte sikkerhedsprodukt.

For særlige angreb mod AI-baserede assistenter kan AI Mentors ordbog om AI-sikkerhed mod jailbreaking bruges som en kort begrebsforklaring.

Hvilke kilder ligger til grund?

Artiklen bygger på NISTs Cybersecurity Framework 2.0, NISTs AI Risk Management Framework, OWASP Top 10 for Large Language Model Applications, Europa-Kommissionens side om NIS2-direktivet og Europa-Kommissionens overblik over Cyber Resilience Act.