
Er «human in the loop» en farlig felle?
«Hånda på rattet» gir falsk trygghet, ifølge ekspertene. Mer om samspillet mellom menneske og maskin, Jørn Lier Horst og resten av tech-uken i Bits & Bytes.
Dette var uken da Anthropic gikk på børs og historiens mest etterlengtede spill endelig ble lansert.
Samtidig er det fortsatt et annet evigaktuelt tema som stjeler overskrifter i norske aviser:
Hva skal vi egentlig bruke kunstig intelligens til – og hvordan? Og hva blir menneskets rolle oppi det hele, når maskinene etterhvert overtar arbeidsoppgavene våre?
Automatiseringens ironi
De aller fleste har nok hørt at KI bare kan brukes trygt så lenge mennesker har «en hånd på rattet» og er «in the loop».
I et innlegg i Dagens Næringsliv hevder derimot professorene Michael Riegler og Erik Børve Rasmussen at slike råd gir en falsk form for trygghet.
De viser til fenomenet automatiseringens ironi. Kort sagt handler dette om at mennesker ikke er spesielt godt egnet til å kontrollere og overvåke ting som maskiner gjør for oss.
– Fra evolusjonens side har vi en dragning mot tankeprosesser som er lettere og mindre kalorikrevende; en tilbøyelighet til å tenke «det ser bra ut», uten egentlig å ha sett så nøye etter, skriver innleggsforfatterne.
Vi opplever det rett og slett som mer krevende å stå parate til å overta en oppgave, enn å gjøre den samme oppgaven manuelt. Gradvis slutter vi også å følge med på og sjekke hva maskinen gjør.
I innlegget konkluderer Riegler og Rasmussen med at vi bør unngå å overlate utførelsen av oppgaver til kunstig intelligens. I stedet bør vi holde oss til å bruke teknologien som støtte.
– For eksempel ved å gjøre oss oppmerksom på mulige skrivefeil, eller å foreslå én ekstra titt på saker eller MR-bilder hvor det er fare for å overse noe viktig, skriver de videre.
Kan vi lære av hvordan industrien løser det?
KI-gründer Trygve Karper mener imidlertid at denne konklusjonen ikke holder vann:
– Manuelt arbeid er ikke trygt. Det er bare risikoen vi har vent oss til, skriver han i et motsvar i samme avis.
Selv om gründeren sier seg enig i påstanden om at «en hånd på rattet» er falsk trygghet, snur han løsningen på hodet:
I stedet for å slutte å automatisere, må vi bygge inn kontroll gjennom klart definerte og etterprøvbare regler for når mennesket tar over. Det bør med andre ord ikke være vår manuelle oppgave å avgjøre når vi skal bryte inn.
– Da skjer det motsatte av det forfatterne frykter. Innkjøperen som før skulle holde 300 bekreftelser i hodet, får en håndfull avvik på bordet. Det blir mindre å passe på og mer oppmerksomhet til det som krever et menneske: leverandørene, forhandlingene og risikoen, skriver Karper.
Han påpeker videre at det er slik automatisering har foregått i industrien i mange tiår allerede. (Karper har bakgrunn fra industriell KI, blant annet som visepresident i Cognite og gründer av Riff, som leverer KI-agenter for industriell bruk).
I etterkant har Øyvind Spørck, KI-direktør i Antire, argumentert for at «begge hender på rattet også gir en falsk form for trygghet». Riegler og Rasmussen svarte på sin side med at kontroll bare kan bygges inn for feil man vet om fra før.
Mer menneskelig eller mer maskinell?
En annen som har dykket inn i hva som skjer når mennesker og maskiner blir en del av samme arbeidsflyt er Financial Times-journalist Sarah O’Connor. Tidligere i år kom hun ut med boken «We are not machines: The Fight for the Future of Work».
En interessant sammenligning handler om hvordan KI automatiserer jobben til en utvikler og en oversetter.
Ifølge O’Connor sin analyse får utviklerne mer tid til det menneskelige arbeidet. De kan bruke tid på det større bildet, teste ulike veier mot mål og være kreative. Utvikleren bestemmer. KI-agenten adlyder.
For oversetterne har imidlertid effekten av KI blitt det motsatte. Der har den nye yrkespraksisen blitt å kvalitetssikre maskinoversatt tekst og gjøre endringer ved behov.
For det første en mindre menneskelig og mer monoton oppgave, ifølge personene forfatteren intervjuet. Men også mye vanskeligere og mer tidkrevende enn å gjøre jobben manuelt:
– Oversetteren fortalte at det føltes som å prøve å telle til ti samtidig som noen ropte tilfeldige tall inn i øret ditt. Samtidig var oversetterne forventet å gjøre jobben dobbelt så fort for halvparten av betalingen, sier O’Connor i et intervju med Klassekampen.
Her er det med andre ord KI som bestemmer, mens mennesket må tilpasse seg retningen.
Er Jørn Lier Horst «utvikler» eller «oversetter»?
Så spørs det hvor representativt oversetteryrket er for hvordan KI påvirker kunnskapsarbeid.
Likevel understreker forskjellen mellom endringene i yrkene et viktig poeng om forskjellen mellom å bruke kunstig intelligens som et verktøy (slik utviklerne gjør) – og hva som skjer når mennesker reduseres til «et tannhjul i systemet».
Dette leder oss over til den andre KI-debatten som har preget nyhetene den siste tiden, nemlig bruk av kunstig intelligens av forfattere.
Det ble ramaskrik da Aftenposten avslørte at Jørn Lier Horsts bøker ble flagget for omfattende KI-bruk.
I etterkant har debatten i stor grad handlet om «språkets verdi», opphavsrett og plagiat, og om hvorvidt KI forflater språket og flytter teksten vekk fra forfatterens opprinnelige prosjekt.
Dette er en spennende debatt. Særlig på et filosofisk plan. Men kanskje spiller det også en rolle hvordan Horst har brukt KI, ikke bare at han har gjort det?
Har han gjort som utviklerne (fått mer spillerom til å utforske det større bildet) – eller har han lidd oversetternes skjebne (og mistet kontroll over språket)?
Uansett hvordan vi vrir og vender på det, er en ting sikkert: Kunstig intelligens kommer til å fortsette å prege de aller fleste deler av arbeidslivet. Mulighetene for verdiskaping, frigjøring av ressurser og mer tid til de spennende oppgavene er åpenbart store.
Så er spørsmålet hvordan man innfører teknologien, hva man bruker den til og på hvilke premisser.
(Er dette noe du er mer nysgjerrig på, så kan du lese Digital Norways nye veileder om KI-agenter. Den tar for seg de viktigste aspektene av teknologien og hvor fallgruvene er. Les mer om veilederen her).
Det har skjedd mye annet innen tech, KI og sikkerhet den siste uken. Her har vi oppsummert det viktigste:
Kunstig intelligens
- Norge kan tjene stort på KI-boomen. Hvorfor setter regjeringen på bremsene? (Aftenposten)
- Nekter å fortelle hva datasentrene brukes til (NRK)
- Datasentrenes karbonutslipp kan øke med 70 prosent innen 2030 (The Guardian)
- «Drapsroboter» er allerede i bruk (NRK)
- Slik blir KI-agenten din klimaskeptiker (Aftenposten)
- Ble forskningsartikkelen vår avvist av mennesker eller av maskiner? (Aftenposten)
- «Human» er årets ord i Cambridge Dictionary (Aftenposten)
- KI fikk daytrade - disse aksjene kjøpte de (E24)
- Open source-miljøet vil ha Jensen Huang tilbake (MIT Technology Review)
- Kan Anthropics rekordstore børsnotering hindre at KI-boblen sprekker? (BBC)
- Satya Nadella er blitt «AGI-pilled»: – Hvis det bare finnes ett selskap, er det over for oss alle (The Verge)
- Startupen Osmo hevder at KI-nesen er like god som menneskets (MIT Technology Review)
KI, litteratur og kultur
- Jan Kjærstad om KI: Det er lenge siden jeg har sett så mye skinnhellighet (Aftenposten)
- KI i litteraturen: «Vi er ikke ute etter noen, vi er ute etter noe» (Aftenposten)
- I dag har forfattere det enklere om de bruker KI. På sikt vil det redusere verdien av det de skaper (Aftenposten)
- Kvifor skal ein lesar bruke tid på ein tekst som er statistisk generert? (Aftenposten)
- Løsningen på problemet ligger oppe i dagen. Bøkene må merkes (Aftenposten)
- Forfattere, legg vekk den selvrettferdige KI-harmen (Aftenposten)
- Jeg har skrevet 17 bøker og har aldri hatt en så god forlagskonsulent som KI (Aftenposten)
- Ut mot KI-dommerne: – En meget selvgod klasse (klassekampen.no)
- Hasteutgir KI-bok: – Føles som et stunt (VG)
- Arrangerer første «Melodi Grand Prix» for KI-musikk (NRK)
KI og arbeidsliv
- Staten bruker millioner på KI til egne ansatte (Kode24)
- Har brukt flere millioner kroner på KI: – Ikke godt å si hva den kan brukes til (Bergensavisen)
- Når kommer KI-kuttene i offentlig sektor? (Dagens Næringsliv)
- KI slo KPMGs egne revisorer (Finansavisen)
- Det koster mye mer å bruke KI på norsk (Kode24)
- KI tar ikke jobben din, men gjør den til lavtlønnet gig-arbeid (Rest of World)
- KI gjør oss kjedelige (Dagens Næringsliv)
Sikkerhet
- De skal passe på oss. Men har brukt passord som «snuppa» og «kobboy12» (Aftenposten)
- Politikernes passord er spredt i ekstremt nett-miljø (Aftenposten)
- Equinor rammet av cyberangrep (Digi.no)
- Equinor: Cyberangrep stoppet (Equinor)
- Tusenvis av norske servere rammet: Ber alle oppdatere umiddelbart (Digi.no)
- Tre små kommuner lar KI være vaktbikkje (Digi.no)
- Nadella sier mye kritisk infrastruktur ikke kan patches (TechCrunch)
- Cyberdirektøren i Det hvite hus må gå etter bølge av sikkerhetsbrudd (The Guardian)


