Riffs KI-agenter jobber autonomt i bedrifter – men blir lovverket en brems?

– Jeg er jo litt ekstrem.

Det sier gründeren av Riff, Trygve Karper, før han skal prate til en forsamling med jurister.

De skal diskutere regulatoriske sandkasser. Han skal fortelle dem at europeiske lover ikke er i nærheten av å holde tritt med KI-utviklingen.

– GDPR ble for eksempel skrevet før KI-agenter, mens KI-forordningen skrives mens utviklingen raser avgårde, sier han.

For hva sier egentlig loven når agenter «jobber» autonomt i bedrifter? Hva betyr det egentlig at KI tar «beslutninger»?

Hva med neste gang KI gjør et skikkelig kvantesprang – slik flere mener den foreløpig ulanserte modellen Mythos er et nytt «ChatGPT-øyeblikk»?

Da kan ikke Europa regulere seg bort fra en produktivitetsutvikling som USA og Asia sitter i førersetet i, og som bare spinner stadig raskere, er Karpers budskap.

Joda, det er viktig å snakke om risiko når det kommer til personvern, biaser, feilinformasjon, nye sårbarheter, arbeidsliv og hele dette bildet som hører med.

– Men den største risikoen, mener jeg, handler om evnen til å opprettholde det samfunnet vi har i dag. Da må vi snakke mer om konkurransekraft, sier han.

Tar over for mennesker

Karper er på ingen måte hvem som helst. Den tidligere maskinlæringssjefen i Cognite står nemlig bak et av de mest spennende KI-selskapene i Norge akkurat nå:

Riff (tidligere kjent som Databutton) utvikler KI-agenter som driver forretningskritiske operasjoner autonomt. Selskapet har i dag over 3500 bedriftskunder og internasjonalt anerkjente investeringsmiljøer i ryggen. Hovedtyngden blant kundene er hos storindustrien.

– Vi leverer KI-assistenter til store bedrifter som jobber med HR og økonomi, som tar over oppgaver som mennesker gjør i dag, sier han.

Dette er agenter som sender e-poster, oppdaterer ERP-systemer og følger opp kunder. Agentene onboardes på lignende måter som nyansatte onboardes. De får tilgang til og jobber i fagsystemer, er tilstede på slack, lærer seg gradvis nye ting og justerer egen adferd.

– Det er ikke chatboter. Ikke copiloter. Det er autonome agenter som gjør klassiske kontoroppgaver. Og nå går denne utviklingen fort, sier han.

Hva om en agent gjør noe ulovlig på vegne av bedriften?

Gründeren beskriver altså måten KI-agentene fases inn omtrent som mennesker i en ny jobb.

I starten har de mindre tillit, færre tilganger og tett oppfølging. Når man ser at det fungerer, kan de løse flere oppgaver autonomt, hele tiden med menneskelig kontroll i definerte kontrollpunkter.

– Hvis det oppstår et problem, eskaleres det til et menneske. Hvis en leverandør plutselig ikke kan levere i tide likevel, er det mennesker som må ta den vurderingen. Agenten skal ikke bare ta en beslutning og si at dette ordner seg senere, sier Karper.

Samtidig følger det noen ganske tunge spørsmål med på kjøpet. Hva skjer hvis en agent gjør noe ulovlig eller skadelig på vegne av en virksomhet?

Hvordan sikrer man en hel kjede av autonome prosesser når flere leverandører er involvert? Hvordan sørger man for at ansatte forstår hva som er gjort av et menneske og hva som er gjort av en agent?

– Det er store og viktige spørsmål. Men hvordan sikrer vi oss egentlig mot at mennesker gjør slike feil, da?

Ingen søker på jobber fordi de vil skrive mailer

Poenget er å gi ansatte – og da mener vi menneskeansatte – muligheten til å jobbe mer strategisk og med ting som er mer gøy.

– Det er ingen som egentlig har lyst til å bruke dagen på å flytte data fra ett system til et annet. Ingen er ansatt for å gjøre det heller, sier Karper.

– Det står ikke i jobbannonsen at du skal kopiere og lime, flytte informasjon mellom systemer og bruke dagene dine på å skrive mailer.

Vanlig i USA og Asia

For mange i Norge er KI-bruken fortsatt gjerne begrenset til et chat-vindu eller en funksjon i et fagsystem.

De aller færreste – i hvert fall når det er snakk om etablerte miljøer – er vant med agenter som bidrar på den måten Riff-gründeren snakker om.

Men han mener det bare er et spørsmål om tid før flertallet av norske arbeidsplasser må begynne å ta stilling til hybride team, der mennesker og agenter fordeler arbeidsoppgaver seg i mellom.

– Å jobbe på denne måten er ikke uvanlig i USA og Kina. Utviklingen går i et rasende tempo og dette skjer nå, sier han.

Så da er spørsmålet: Er det regulatoriske rammeverket rigget for denne måten å drive bedrifter på?

– Vi går inn i et selskap, og i løpet av fire uker kan vi ha agenter oppe og gjøre oppgaver. Det tempoet må også regulatoriske myndigheter klare å følge, sier han.

Lovteksten har blindsoner

For eksempel har GDPR strenge regler for hvor personopplysninger skal lagres og brukes. Data som er samlet inn til et spesifikt formål, kan ikke uten videre brukes til noe annet.

Det oppstår fort mange gråsoner når KI-agenter jobber med kundedata, persondata og forretningkritiske data på tvers av ERP, mail, Teams og andre fagsystemer – i én og samme flyt.

Og hva med den nye KI-forordningen? Han mener den også har blindsoner.

For mange bedrifter kan det tryggeste bli å la være å ta i bruk slike systemer i det hele tatt. Problemet, slik Karper ser det, er at det også betyr å tape fart i møte med selskaper i USA og Kina.

– I praksis kan slike lover forby eller bremse ting som både er fornuftig og ønskelig.

– Resultatet blir at grensene trekkes bredt, og at kostnaden ved å være på riktig side av reglene kan bli tung for små selskaper, sier han.

Når det kommer til Riffs egne kunder – som for det meste er store bedrifter – forteller Karper at rundt 70 prosent av bedriftene er redde for å bryte både gjeldende og kommende regelverk, mens 30 prosent regner med at de finner en pragmatisk løsning.

– Begge disse gruppene fortjener bedre enn regulering basert på antakelser, sier han.

Må konkurrere med Kina om pris og kvalitet

Karper mener faren ligger i at reguleringer – slik de innføres i dag – gjør det umulig for europeiske bedrifter å konkurrere med amerikanske og asiatiske bedrifter.

– Europeiske bedrifter lever på konkurransefortrinn som relasjoner, kvalitet og markedskunnskap. Men hva skjer når KI tar over hele denne markedsplassen? Når KI-agenter vurderer kvalitet, pris og handler med hverandre?

– Da må vi konkurrere med Kina om pris og kvalitet. Det går ikke dersom vi ikke en gang henger med på produktivitetsutviklingen i det tempoet som det nå går i, sier han.