KI-agenter kan gjøre skade. Hva om vi krever at de identifiserer seg?

De aller fleste er enige om én ting: Agentene står nå fremst i frontlinjen av KI-utviklingen.

Med Claude Code har vi sett hvordan svermer av KI-agenter kan jobbe autonomt og på tvers av oppgaver. OpenClaw viste oss hva som skjer når agenter slippes fri på internett.

Den virker nærmere enn noen gang før: Du vet, den virkeligheten der digitale hjelpere bestiller bord, flybilletter og fikser arbeidsoppgaver for oss.

Selv «skeptikerne» i The Verge lar seg imponere av måten Gemini kan ta kontroll over telefonen og bestille taxiturer og kaffekopper.

Potente våpen

Men hva med sikkerheten oppi det hele? Kan vi stole fullt og helt på agentene?

I hvert fall ikke blindt: Det finnes eksempler på agenter som sletter hele kodebaser og åpner døren på vidt gap for hackere. Selv historien om den uskyldige utvikleren som ble hengt ut av en KI-agent har gått viralt.

Ikke minst kan agenter fungere som potente våpen for cyberkriminelle – og det er nok bare et spørsmål om tid før vi ser det første virkelig store agentdrevne DDoS-angrepet – der tusenvis av tilpasningsdyktige agenter på samme tid jobber for å lamme nettsider og kritiske tjenester.

Så hvordan bør vi egentlig gå denne agentiske fremtiden i møte, og samtidig legge til rette for et sikrere internett?

Vil «sjekke legg» på KI-agenter

Kanskje en del av løsningen kan være å «sjekke legg» på KI-agenter?

Det mener i hvert fall den amerikanske startupen World, som denne uken lanserte en ny identifiseringsteknologi som knytter agenter til faktiske mennesker.

– Med Agent Kit vil World gjøre det mulig (...) for agenter å handle på enkeltpersoners vegne på tvers av internett på en måte andre kan stole på, skriver Ars Technica.

Må tenke nytt rundt spamfiltre og brannmurer

Så hva om Cloudflare-sjefen får rett, og vi allerede neste år får et internett med flere KI-agenter enn menneskelige brukere?

Dagens internett er ikke laget for å avsløre om en KI-agent har onde hensikter eller ikke. I dag er det gjerne «automatisert trafikk» som er faresignalet spamfiltre, brannmurer og «anti-crawl»-verktøy reagerer på.

Men å stenge ut alle KI-agenter fra nettsider kommer nok ikke til å være en særlig god forretningsmodell, når det er agentene som søker, gjennomfører handlinger og betaler på vegne av brukere.

Worlds løsning er at virksomheter heller kan kreve en unik token som verifiserer at agenten handler på vegne av en legitim aktør.

Slik kan en nettside tillate at agenter gjennomfører bestillinger, samtidig som de unngår at én aktør oversvømmer systemet med store mengder anonyme agenter, forklarer Ars Technica i sin artikkel.

18 millioner scannede øyne

Ideen om identifisering av KI-agenter er spennende. Så var det spørsmålet om hvordan dette faktisk skal gjøres i praksis – på en måte som både fungerer og har bred tillit.

Her er det ulike syn på World som aktør.

Selskapet startet som Worldcoin, kryptoprosjektet med støtte fra Sam Altman, og som Bits and Bytes skrev om allerede for tre år siden.

Løsningen den gang baserte seg på at folk skulle scanne øynene sine i en digital kule, som selskapet plasserte på tusen offentlige steder rundt omkring på kloden – i bytte mot en gratis kryptopenge.

Prosjektet møtte motstand og Worldcoin ble etterforsket i flere land – blant annet Tyskland – for brudd på personvern og markedsføringslover.

Ifølge selskapet selv består databasen nå av øyescanninger fra over 18 millioner mennesker – og det er denne som er tenkt brukt som grunnlag når KI-agenter skal knyttes til en verifisert identitet.

Bør vi åpne lommeboken for KI-agenter?

Men hvis vi ikke har lyst til å la et amerikansk kryptoselskap skanne øynene våre, hvordan skal vi da legitimere KI-agenter?

Heldigvis finnes det andre måter å jobbe med digital identifisering på.

Her i Norge har Skatteetaten og Brønnøysundregistrene lenge jobbet med et EU-støttet prosjekt der selskaper kan bevise hvem de er digitalt, blant annet ved hjelp av blokkjedeteknologi.

Tanken er å kutte byråkrati og gjøre det enklere å stole på hvem man handler med – litt som en BankID for bedrifter.

Denne uken ble også digitale lommebøker for privatpersoner testet for første gang, som del av et større EU-løp for enklere og mer sømløs identifisering.

– I dag er det slik at vi deler altfor mye data om oss selv. Derfor ønsker vi å få på plass en digital lommebok som er trygg og sikker, sier digitaliseringsminister Karianne Tung til NRK.

Så er spørsmålet om det kanskje kan være relevant å åpne lommebøkene for KI-agenter i fremtiden – slik at også agentene kan identifiseres og brukes på en trygg og sømløs måte – i tråd med europeiske verdier?

Det har skjedd mye annet spennende i teknologiverden den siste uken. Her har vi samlet de viktigste tech-nyhetene:

Nyheter om kunstig intelligens

Sikkerhet

Sosiale medier

Spill og kultur

Diverse