De har fått KI til å «slutte å lyve»

Når vi åpner verdens mest populære språkmodell står det nederst med liten skrift: «ChatGPT kan gjøre feil».

Men hva om vi kunne brukt KI uten å være redde for risikoen ved at teknologien finner på ting – også i arbeid der det ikke er rom for feil?

Det var utgangspunktet bak Reliable AI, startet opp av tre masterstudenter ved UiO.

– Vi begynte med å forske på hvordan kunstig intelligens kan brukes i kvalitativ forskning og fagområder som jobber mye med tekst, forklarer medgründer Jonas Timmann Mjaaland.

– Planen var å effektivisere og forenkle arbeidet på en måte som ivaretar kravene til god forskningspraksis, som etterrettelighet, reproduserbarhet og forklarbarhet.

Unngår hallusinasjoner

Resultatet ble verktøy som gjør det mulig å håndtere store mengder tekstdata med kunstig intelligens uten den beryktede hallusinasjonen: Altså tilfeller der KI finner på eller fordreier fakta.

– Vår arbeidshypotese er at veldig mye av ustabiliteten i store språkmodeller kommer i den siste transformasjonen, sier Mjaaland.

Med «den siste transformasjonen» viser han til det siste steget i en grov måte å beskrive hvordan en språkmodell arbeider på:

– Det er da hallusinasjonen skjer.

Fjerner det «siste laget» fra en språkmodell

Det Reliable AI gjør er at de skreller bort det siste laget og jobber direkte med den delen av teknologien der input eksisterer som matematiske objekter.

– Det lar oss sammenligne tekster og søke i databaser basert på naturlig språk på en deterministisk og transparent måte, forklarer medgründer Markus Kreutzer.

La oss si at du ber en språkmodell identifisere mønstre eller temaer i en rapport eller database. Da kan du ikke være sikker på at du får det samme svaret fra gang til gang.

– Med vår modell vil du få samme svar hver gang. Den kan ikke hallusinere, fordi den ikke genererer noe, forklarer han.

Utviklet løsning for advokatselskap

Reliable AI forsto fort at denne måten å jobbe med KI også hadde nytte for kunnskapsarbeidere i næringslivet, og tok kontakt med advokatselskapet Haavind for å videreutvikle bruksområder.

– Hvem andre er det som bruker store deler av arbeidsdagen sin på å forstå og navigere i tungt tekstmateriale, som må stemme overens med kildegrunnlaget? Jo, det er advokater, sier Kreutzer.

I stedet for å komme med en ferdig løsning, startet Reliable AI med et spørsmål: Finnes det arbeidsprosesser der dagens KI-verktøy ikke strekker til?

Haavind svarte med Klagenemnda for offentlige anskaffelser (KOFA).

– Jurister bruker uforholdsmessig mye tid på å søke og navigere i den databasen. Den har dårlig funksjonalitet og et tungt grensesnitt, sier han.

Det er ikke uvanlig å måtte gå gjennom mange avgjørelser for å finne relevant rettspraksis.

Mens tradisjonelle søkeverktøy overser begrepsmessig beslektede avgjørelser som ikke deler eksakt ordlyd, produserte generative KI-verktøy svar som juristene ikke kunne stole på.

Løsningen ble KOFA-søk.

– Det er et semantisk søk, der man kan søke opp en juridisk situasjon og få frem de mest relevante avgjørelsene, selv når den eksakte terminologien varierer, sier Mjaaland.

Mjaaland og Kreutzer peker på at denne måten å bruke kunstig intelligens på også er relevant i andre sammenhenger der store mengder tekst må sammenstilles på en måte som er forankret i kildene.

– Jeg tror dette hadde passet veldig godt i offentlig sektor, for eksempel.

Sparer tid på kjedelig arbeid

Slik fikk Reliable AI en fot i næringslivet, mens Haavind fikk et verktøy som sparte dem tid i en helt konkret arbeidsprosess.

– Vi får veldig god respons på at de sparer tid på kjedelig, tidkrevende arbeid, slik at de kan bruke ressursene sine på det mest verdifulle en advokat kan gjøre, nemlig å bygge argumentasjon og sak, ifølge Mjaaland.

– Det andre er at de forteller om økt trygghet med kunstig intelligens i forretningskritiske prosesser. Advokatene kan være sikre på at de gjør en god og grundig jobb.

Han understreker at KOFA-søket, som alt det andre Reliable AI jobber med, ikke tar beslutninger selv. Det er beslutningsstøtte.

Avskriver ikke generativ KI

Selv om produktene de jobber med er et alternativ til klassiske generative KI-verktøy i noen sammenhenger, mener de at generativ KI fortsatt har en enorm verdi.

– Modellene blir bare bedre og bedre. Vi bruker selv generative verktøy daglig, det er en viktig del av driften. Samtidig må det hele tiden gjøres gode vurderinger om når og hvordan mennesker selv skal ha hånden på rattet, sier han.

– Det er ikke alltid tidsbesparende eller effektivt å automatisere bort tenking, for eksempel.

Samtidig peker Mjaaland på hvordan de store samtalene om kunstig intelligens fort ender med å handle om frykten for at teknologien skal gjøre feil. Da overser man et viktig premiss, mener han.

– KI blir gjerne målt mot en forestilling om at nåsituasjonen alltid er det nøytrale og «perfekte». Men slik er det ikke.

Spørsmålet bør derfor ikke være om «KI kan gjøre feil» – men om teknologien kan gjøre arbeidet bedre enn i dag.

– Vi bruker allerede masse teknologi for å ta avgjørelser og bli mer effektive. Slik sett følger kunstig intelligens en trend som har eksistert i tusenvis av år: Å forbedre oss med teknologi. Det er ikke noe nytt. Et banalt eksempel er skrevet tekst i seg selv.

– Spørsmålet blir ikke om kunstig intelligens er perfekt, men om det er bedre enn nåsituasjonen. I noen tilfeller vil svaret være nei, og i noen tilfeller vil det være ja.

Veien fra forskning til næringsliv

På mange måter er Reliable AI et godt eksempel på hvordan ideer fra universitetene kan tas ut i næringslivet.

– Norge er på sitt suverent beste når samarbeidet mellom offentlig og privat sektor fungerer godt. Men vi er for dårlige på å dra nytte av den offentlig finansierte forskningen ute i næringslivet. Vi må bli bedre på kommersialisering og anvendelse av forskning, sier Kreutzer.

Han mener universitetssektoren må være mer åpen for impulser utenfra. Samtidig må næringsliv og politikere forstå at akademia har en annen rolle enn «FoU-prosjekter i næringslivet».

– Det er jo egentlig esoterisk forskning på halvledere på seksti- og syttitallet som førte til teknologien som ligger til grunn for chipper – som igjen er utgangspunktet for hele den digitale transformasjonen vi ser i dag.

– Derfor går det begge veier. Universitetene må være sitt samfunnsansvar bevisst og bidra til utviklingen, samtidig som næringsliv og politikere må akseptere at ikke all forskning kan være målrettet fra dag én.

– Noe annet er hamrende naivt

Mens nesten all KI-teknologien vi bruker her til lands produseres i andre land, ønsker Reliable AI å vise at det er mulig å utvikle konkurransedyktig teknologi også i Norge.

– Vi pleier å si at vi skal bidra til å styrke norsk digital suverenitet og selvbestemmelse, og sikre kritisk digital infrastruktur, sier Kreutzer.

Hvis vi ikke gjør det, overlater vi både verdiskaping, kompetanse og i økende grad kontroll til andre. I en mer urolig verden, der teknologi også er et sikkerhetsspørsmål, får det større konsekvenser.

– Norge må bygge opp egen teknologi og egen konkurransekraft. Noe annet er hamrende naivt. Så skal vi selvfølgelig gjøre det i samarbeid mellom det private og det offentlige, og i samarbeid med gode naboer i Norden, Europa og verden for øvrig, mener han.

– Dette er avgjørende for norsk sikkerhet, beredskap og selvbestemmelse, og en prosess vi vil bidra inn i.