Stanford: Slik gjennomfører KI autonome cyberangrep

Er kunstig intelligens i ferd med å bli bedre enn mennesker til å utføre cyberangrep? Et nylig eksperiment fra Stanford-universitetet kan tyde på nettopp det.

I studien kom det frem at KI-verktøy nå er blitt så kraftige – eller dyktige – at de er i ferd med å utfordre og i mange tilfeller utkonkurrere menneskelige hackere.

Det skriver Wall Street Journal.

KI-verktøy slo 9 av 10 hackere

Studien tar utgangspunkt i en autonom KI-bot kalt Artemis, som et forskerteam ved Stanford har utviklet.

Artemis skanner nettverk, leter etter svakheter i programvare og finner måter å utnytte dem på – alt sammen helt av seg selv.

For å teste hvor bra det faktisk funker, valgte forskerne å sette Artemis på prøve mot profesjonelle hackere (altså ekte mennesker) som til daglig lever av å bryte seg inn i systemer for å avdekke sikkerhetshull.

I testen slo KI-boten samtlige av de menneskelige deltakerne, bortsett fra én.

– Året KI-modellene ble gode nok

Frem til nylig har KI-verktøy hatt klare begrensninger når det kommer til hacking i den virkelige verden.

Et cyberangrep er nemlig en kompleks prosess. Man skal «løse» ulike oppgaver, tilpasse seg endringer og ta selvstendige beslutninger – ikke helt ulikt hverdagen til folk flest i det lovlige arbeidslivet.

Nå er det i ferd med å endre seg.

– Dette var året der modellene ble gode nok, sier Rob Ragan fra cybersikkerhetsselskapet Bishop Fox til Wall Street Journal.

Tidligere denne høsten rapporterte også Anthropic om det de omtaler som «den første, dokumenterte KI-orkestrerte cyberspionasjekampanjen» av sitt slag.

Her ble Anthropic sin agentiske kunstig intelligens ikke bare brukt som støtteverktøy, men satt sammen for å utføre autonome angrep mot selskaper og myndigheter.

«Trusselaktøren, som vi med høy grad av sikkerhet vurderer som en kinesisk statsstøttet gruppe, brukte Claude Code til å infiltrere rundt tretti mål verden over – og lyktes i noen få tilfeller», skriver Anthropic i rapporten.

Videre skriver de:

«Operasjonen var rettet mot store teknologiselskaper, finansinstitusjoner, kjemisk industri og offentlige myndigheter. Vi mener dette er det første dokumenterte tilfellet av et omfattende cyberangrep gjennomført uten vesentlig menneskelig inngripen.»

KI som beskytter KI

Men når vi snakker om medaljens bakside, må vi ikke glemme å snakke om det potensielle gullet på forsiden: KI er i økende grad også en svært viktig del av forsvaret mot cyberangrep.

Ifølge årets sikkerhetsrapport fra Telenor gir teknologien nemlig nye og kraftige muligheter på forsvarssiden. Avanserte sikkerhetsfiltre, KI-drevet analyse og prediktive modeller gjør det mulig å oppdage og stanse svindel og angrep før de når fram til ofrene.

Brukt riktig kan KI altså bidra til å forsvare nettverk, avdekke skjulte svakheter og tette sikkerhetshull før de blir utnyttet.

Men dette er et rotterace, og på kort sikt kan KI-teknologien være et problem – spesielt i hendene på kriminelle organisasjoner med enorm innovasjonstakt.

– Det er lansert store mengder programvare som er sendt ut uten at de er sikkerhetstestet med KI-verktøy. Denne programvaren kan være sårbar for helt nye typer angrep som KI kan oppdage, sier Dan Boneh, professor i datavitenskap ved Stanford til Wall Street Journal.

Det har skjedd mye annet spennende i skjæringspunktet mellom teknologi, digitalisering og samfunn. Her er noen av de viktigste nyhetene fra uken som gikk:

KI-nytt

• UDI sparer 130 årsverk med automatisering av asylsøknader (Digi.no)
• «Arkitektene bak KI» er kåret til årets person av Time Magazine (Aftenposten)
• Claude Code kommer til Slack, og det er en større sak enn det høres ut som (Tech Crunch)
• Reagerer på Norges forhold til Palantir (NRK)
• KI-selskaper ønsker et nytt internett – og de tror de har funnet nøkkelen (The Verge)
• KI snur opp ned på pornoindustrien (The Economist)

OpenAI med lanseringer, oppkjøp og intriger

• OpenAI er i trøbbel (The Atlantic)
• OpenAIs milliardavtale med Disney: Nå kommer Mikke Mus og Marvel til Sora (The Verge)
• ChatGPTs «voksenmodus» forventes å debutere i første kvartal 2026 (The Verge)
• OpenAI slapp GPT-5.2 etter at Google ba opp til kamp (Ars Technica)
• GPT-5.2 er OpenAIs siste trekk i kampen om agentisk KI (The Verge)

Google kaster seg med i kampen

• Google lanserer sin største KI-agent samtidig med GPT-5.2 (TechCrunch)
• Google bygger en eksperimentell ny nettleser og en ny type webapp (The Verge)
• EU-kommisjonen starter etterforskning av Googles KI-databruk (Digi.no)
• Nå går Disney etter Google (Hollywood Reporter)

Tech, språk og bokstavtyper

• Marco Rubio forbyr Calibri i utenriksdepartementet (Tech Crunch)
• Mennesker begynner å snakke som chatboter (Gizmodo)
• Språkrådet: «Tekoligark» er årets ord (VG)
• Språkrådet advarer mot KI i kommunikasjonsarbeid (Kom24)

Diverse

• Riksrevisjonen: Mangelfulle IT-ressurser gjør PST mindre effektive (Digi.no)
• Robotene overtar frontlinjen: – Det blir farligere hele tiden (NRK)
• RAM ødelegger alt (The Verge)
• Google planlegger datasenter i Østfold med strømforbruk tilsvarende 200.000 boliger (VG)
• Australias verdensførste forbud mot sosiale medier trer i kraft (The Guardian)
• Kina får mye av det de ønsker fra USA, inkludert chips (The New York Times)
• SpaceX sikter på å bli mobil-leverandør (Digi.no)