Er KI en «kognitiv pølse» for hjernen – god akkurat nå, men usunn over tid?

– Kunstig intelligens er litt som en «kognitiv pølse», skriver Benjamin Riley denne uka.

Riley driver tankesmien Cognitive Resonance, som jobber med hvordan KI påvirker læring og tenkning. Han sto også bak Deans for Impact, en organisasjon for lærerutdanning.

– Det virker tiltalende i øyeblikket, men undergraver helsen og bærekraften til de kognitive systemene vi har utviklet gjennom flere årtusener.

«De kognitive systemene» han sikter til, er rett og slett hjernene våre – og passende nok er artikkelen hans titulert «Hjernen vår er ikke rustet til å håndtere kunstig intelligens».

Elon Musk, som står bak hjerneimplantatselskapet Neuralink, har for eksempel tatt til orde for at folk bør se på hjernen som en «biologisk datamaskin». Google DeepMind-sjef Demis Hassabis har på sin side kalt hjernen «en biologisk tilnærming til en Turing-maskin».

Er det så galt å se på hjernen som en datamaskin, da? Ikke nødvendigvis, mener Riley – men det kan ifølge Riley oppstå problemer om vi tar metaforen for bokstavelig.

Klarer ikke lenger å «fange ballen»

En datamaskin kan veldig enkelt beskrives som en maskin som mottar informasjon, behandler den og leverer et resultat. Overført til hjernen skjer noe av det samme: Vi sanser noe, tenker på det og handler deretter.

Dette er en nyttig forenkling, men Riley mener denne påstanden hopper bukk over noe vesentlig ved hvordan mennesker faktisk tenker og lærer. Hjernen behandler nemlig ikke bare informasjon, men lærer gjennom å handle, få respons og justere seg.

Han viser til nevroforskeren Paul Cisek, som beskriver hjernen som et system for kontinuerlig kontroll og tilpasning. Her trekker han også inn et eksempel med en baseballspiller som skal ta imot en høy ball.

Spilleren trenger ikke beregne fart, tyngdekraft og landingspunkt hver gang – for gjennom mange år med erfaring har han lært å justere bevegelsene sine fortløpende etter det han ser, slik at ballen holder omtrent samme posisjon i synsfeltet. Her består ikke ferdigheten av å «regne ut» riktig svar, men er bygd opp gjennom gjentatt handling, tilbakemelding og justering.

Det er denne mekanismen Riley overfører til KI-bruk: Om vi stadig vekk «outsourcer» tenkeprosessene til KI, vil vi ikke lenger tilegne oss den kunnskapen vi ellers ville fått ved å prøve, feile og tilpasse oss.

Vi får rett og slett ikke fanget ballen på egen hånd, for å vende tilbake til baseball-eksempelet.

Ikke pølser hver dag

Ser vi på hjernen som en datamaskin, er det lett å tenke at jo mer av «informasjonsbehandlingen» vi kan overlate til en raskere maskin, desto bedre.

Kan KI lese, oppsummere, skrive, regne og finne svar for oss, så frigjør jo det kapasitet?

Men dersom det er slikt at kunnskap og tenkeevne nettopp bygges gjennom selve arbeidet med å forstå, vurdere, huske og løse problemer, blir bildet brått et annet, påpeker Riley:

Da kan KI spare oss for nettopp den anstrengelsen som gjør oss bedre i stand til å tenke selv.

Denne utviklingen, der vi overlater stadig flere av oppgavene som tidligere krevde egen tenkning til teknologien, kalles gjerne «kognitiv delegering».

I en etablert arbeidshverdag trenger ikke dette nødvendigvis å være et problem i seg selv. Ser vi derimot på skolen, der Riley retter mesteparten av sine bekymringer, er mye av målet i undervisningen ikke bare å komme fram til riktig svar, men også å bygge kunnskapen og ferdighetene som gjør at vi kan komme fram til svaret selv.

Visst kan en elev utstyrt med KI levere en bedre tekst på kortere tid. Men om KI samtidig har gjennomført analysen, formulert argumentene og trukket konklusjonene, er det ikke gitt at eleven faktisk har lært noe som helst av det.

Nettopp her dukker «den kognitive pølsa» opp: En pølse i ny og ne gjør neppe stor skade, problemet oppstår først når du spiser det hver bidige dag. Som Riley selv avslutter sin sak med å si:

– Å fråtse i «kognitive pølser» er ikke bra for noen av oss. Spis sunt, og tenk sunt.

Det har skjedd mye annet innen tech, KI og sikkerhet den siste uken. Her har vi oppsummert det viktigste:

Kunstig intelligens:

Sikkerhet:

Sosiale medier og spill:

Diverse: