Gå til kursplattform
Er vi mennesker egentlig egna til å overvåke og kontrollere maskiner? (Foto: Istockphoto)
Er vi mennesker egentlig egna til å overvåke og kontrollere maskiner? (Foto: Istockphoto)

Er «human in the loop» en farlig felle?

«Hånda på rattet» gir falsk trygghet, ifølge ekspertene. Mer om samspillet mellom menneske og maskin, Jørn Lier Horst og resten av tech-uken i Bits & Bytes.

Av Redaksjonen

Dette var uken da Anthropic gikk på børs og historiens mest etterlengtede spill endelig ble lansert.

Samtidig er det fortsatt et annet evigaktuelt tema som stjeler overskrifter i norske aviser:

Hva skal vi egentlig bruke kunstig intelligens til – og hvordan? Og hva blir menneskets rolle oppi det hele, når maskinene etterhvert overtar arbeidsoppgavene våre?

Automatiseringens ironi

De aller fleste har nok hørt at KI bare kan brukes trygt så lenge mennesker har «en hånd på rattet» og er «in the loop».

I et innlegg i Dagens Næringsliv hevder derimot professorene Michael Riegler og Erik Børve Rasmussen at slike råd gir en falsk form for trygghet.

De viser til fenomenet automatiseringens ironi. Kort sagt handler dette om at mennesker ikke er spesielt godt egnet til å kontrollere og overvåke ting som maskiner gjør for oss.

– Fra evolusjonens side har vi en dragning mot tankeprosesser som er lettere og mindre kalorikrevende; en tilbøyelighet til å tenke «det ser bra ut», uten egentlig å ha sett så nøye etter, skriver innleggsforfatterne.

Vi opplever det rett og slett som mer krevende å stå parate til å overta en oppgave, enn å gjøre den samme oppgaven manuelt. Gradvis slutter vi også å følge med på og sjekke hva maskinen gjør.

I innlegget konkluderer Riegler og Rasmussen med at vi bør unngå å overlate utførelsen av oppgaver til kunstig intelligens. I stedet bør vi holde oss til å bruke teknologien som støtte.

– For eksempel ved å gjøre oss oppmerksom på mulige skrivefeil, eller å foreslå én ekstra titt på saker eller MR-bilder hvor det er fare for å overse noe viktig, skriver de videre.

Kan vi lære av hvordan industrien løser det?

KI-gründer Trygve Karper mener imidlertid at denne konklusjonen ikke holder vann:

– Manuelt arbeid er ikke trygt. Det er bare risikoen vi har vent oss til, skriver han i et motsvar i samme avis.

Selv om gründeren sier seg enig i påstanden om at «en hånd på rattet» er falsk trygghet, snur han løsningen på hodet:

I stedet for å slutte å automatisere, må vi bygge inn kontroll gjennom klart definerte og etterprøvbare regler for når mennesket tar over. Det bør med andre ord ikke være vår manuelle oppgave å avgjøre når vi skal bryte inn.

– Da skjer det motsatte av det forfatterne frykter. Innkjøperen som før skulle holde 300 bekreftelser i hodet, får en håndfull avvik på bordet. Det blir mindre å passe på og mer oppmerksomhet til det som krever et menneske: leverandørene, forhandlingene og risikoen, skriver Karper.

Han påpeker videre at det er slik automatisering har foregått i industrien i mange tiår allerede. (Karper har bakgrunn fra industriell KI, blant annet som visepresident i Cognite og gründer av Riff, som leverer KI-agenter for industriell bruk).

I etterkant har Øyvind Spørck, KI-direktør i Antire, argumentert for at «begge hender på rattet også gir en falsk form for trygghet». Riegler og Rasmussen svarte på sin side med at kontroll bare kan bygges inn for feil man vet om fra før.

Mer menneskelig eller mer maskinell?

En annen som har dykket inn i hva som skjer når mennesker og maskiner blir en del av samme arbeidsflyt er Financial Times-journalist Sarah O’Connor. Tidligere i år kom hun ut med boken «We are not machines: The Fight for the Future of Work».

En interessant sammenligning handler om hvordan KI automatiserer jobben til en utvikler og en oversetter.

Ifølge O’Connor sin analyse får utviklerne mer tid til det menneskelige arbeidet. De kan bruke tid på det større bildet, teste ulike veier mot mål og være kreative. Utvikleren bestemmer. KI-agenten adlyder.

For oversetterne har imidlertid effekten av KI blitt det motsatte. Der har den nye yrkespraksisen blitt å kvalitetssikre maskinoversatt tekst og gjøre endringer ved behov.

For det første en mindre menneskelig og mer monoton oppgave, ifølge personene forfatteren intervjuet. Men også mye vanskeligere og mer tidkrevende enn å gjøre jobben manuelt:

– Oversetteren fortalte at det føltes som å prøve å telle til ti samtidig som noen ropte tilfeldige tall inn i øret ditt. Samtidig var oversetterne forventet å gjøre jobben dobbelt så fort for halvparten av betalingen, sier O’Connor i et intervju med Klassekampen.

Her er det med andre ord KI som bestemmer, mens mennesket må tilpasse seg retningen.

Er Jørn Lier Horst «utvikler» eller «oversetter»?

Så spørs det hvor representativt oversetteryrket er for hvordan KI påvirker kunnskapsarbeid.

Likevel understreker forskjellen mellom endringene i yrkene et viktig poeng om forskjellen mellom å bruke kunstig intelligens som et verktøy (slik utviklerne gjør) – og hva som skjer når mennesker reduseres til «et tannhjul i systemet».

Dette leder oss over til den andre KI-debatten som har preget nyhetene den siste tiden, nemlig bruk av kunstig intelligens av forfattere.

Det ble ramaskrik da Aftenposten avslørte at Jørn Lier Horsts bøker ble flagget for omfattende KI-bruk.

I etterkant har debatten i stor grad handlet om «språkets verdi», opphavsrett og plagiat, og om hvorvidt KI forflater språket og flytter teksten vekk fra forfatterens opprinnelige prosjekt.

Dette er en spennende debatt. Særlig på et filosofisk plan. Men kanskje spiller det også en rolle hvordan Horst har brukt KI, ikke bare at han har gjort det?

Har han gjort som utviklerne (fått mer spillerom til å utforske det større bildet) – eller har han lidd oversetternes skjebne (og mistet kontroll over språket)?

Uansett hvordan vi vrir og vender på det, er en ting sikkert: Kunstig intelligens kommer til å fortsette å prege de aller fleste deler av arbeidslivet. Mulighetene for verdiskaping, frigjøring av ressurser og mer tid til de spennende oppgavene er åpenbart store.

Så er spørsmålet hvordan man innfører teknologien, hva man bruker den til og på hvilke premisser.

(Er dette noe du er mer nysgjerrig på, så kan du lese Digital Norways nye veileder om KI-agenter. Den tar for seg de viktigste aspektene av teknologien og hvor fallgruvene er. Les mer om veilederen her).

Det har skjedd mye annet innen tech, KI og sikkerhet den siste uken. Her har vi oppsummert det viktigste:

Kunstig intelligens

KI, litteratur og kultur

KI og arbeidsliv

Sikkerhet

Diverse