«KI-kommentatorer» henges ut – men hva er egentlig problemet?

Inspirert av hvordan Håkon Hoffart før sommeren påpekte hvordan NRKs nekrolog over Stein Erik Hagen eller alle solemerker var skrevet av (eller med) ChatGPT, testet Manifest Media nylig en rekke profilerte NRK-kommentatorer på Marienlyst for «AI-infeksjon».

Tekstene til fem av disse kommentatorene ble kjørt gjennom programmet Pangram, som skal være verdensledende på å avsløre om, og i hvor stor grad, KI er blitt brukt til å fremstille teksten.

I Manifest Medias test skåret fire av fem NRK-kommentatorer «0 prosent» i Pangrams KI-deteksjon. Men så var det den femte, da: Her ble 14 av 15 artikler flagget av verktøyet, med et anslag på at 57 prosent av tekstene var KI-produsert.

– Gjort tekstene mer effektive

Hva sier så denne «syndebukken» selv?

Cecilie Langum Becker, NRKs økonomikommentator fra 2018 frem til hun nylig begynte i Aker, er samme person som forøvrig skrev nekrologen over Stein Erik Hagen (som i Manifests Pangram-test skårer hele 100 prosent på KI-bruk).

Til Manifest sier Becker at hun helt siden NRK tok i bruk KI-verktøy, har brukt dem i «det tekstforberedende arbeidet».

– Mine tekster har ligget i skjæringspunktet analyse og forklaring av mer eller mindre komplekse sammenhenger, og KI har først og fremst gjort tekstene mer effektive og enda mer pedagogiske. Innhold, vurderinger og journalistisk håndverk er mine egne, og med min tydelige signatur.

Fra NRKs side utelukkes det ikke at det er blitt brukt KI i tekstproduksjonen. Sofie Gran Aspunvik, redaktør for Debatt og forklaring i NRK sier til Journalisten at det i prosessen kan ha «kommet inn ting som burde vært luket ut»:

– Vi har generelt høy bevissthet rundt hvordan vi bruker KI i det journalistiske arbeidet i NRK, og vi har retningslinjer som oppdateres når det er behov for det. Det som er viktigst for oss, er at publikum skal være trygge på at NRKs kommentatorer baserer tekstene sine på egen kunnskap og egne innsikter.

Manifest har til alt overmål fulgt opp med en annen sak som viser at Asle Tojes omstridte kronikk fra i fjor, som fikk «KI-alarmen til å gå» hos UiO-professor og SINTEF-sjefforsker Petter Bae Brandtzæg, ifølge Pangram vitterlig var skrevet med god hjelp av KI. Hele 88 prosent av den, faktisk.

Ah, kjør debatt! Kronikker om kronikker! For å parafrasere Toje i sin opprinnelige kronikk: Vil Norge overleve denne KI-debatten som kommer?

Er det egentlig et problem?

Det ligger en slags ironi her. Samtidig som at store deler av arbeidslivet jobber intensivt med å innføre kunstig intelligens for å gjøre de ansatte mer effektive, handler altså debatten i bunn og grunn om at en NRK-ansatt anklages for å ha brukt kunstig intelligens for å ha blitt mer effektiv.

Men er det egentlig et problem?

Nettavisen-redaktør Alexandra Beverfjord skriver i en kronikk at bruk av KI «ikke er noe å skamme seg over»:

– Dersom alle faktaopplysningene i teksten er korrekte, og teksten uttrykker det Cecilie Langum Becker faktisk mener, hvorfor er det egentlig et problem?

For det er åpenbart ikke bare journalister som lener seg på kunstig intelligens i jobben sin. Over halvparten av nordmenn bruker KI på en eller annen måte.

Samtidig er det veldig få – særlig blant de som jobber med å skrive: kunnskapsarbeidere, forskere, lærere, forfattere og politikere – som stolt og åpent erklærer at «ja, dette arbeidet her er KI-generert».

Parallelt med dette er det ferd med å bli en helt etablert greie blant utviklere at kode genereres med kunstig intelligens, og at det er i orden, så lenge sluttproduktet er bra nok og kvalitetssikres av ansvarlige.

Den samme logikken bør ligge til grunn for journalistikken, mener Beverfjord, som også er åpen om at teknologien har en naturlig plass i Nettavisens redaksjoner, så lenge den brukes på en ansvarlig måte, og skribentene kan stå inne for alt som publiseres.

– Håpet er at KI blir et verktøy som får flere til å delta i samfunnsdebatten, avslutter hun.

Kommentator i Dagens Næringsliv Eva Grinde stiller seg derimot på den andre siden av skyttergravene, når hun skriver at «kommentator-Claude neppe er fremtiden for mediebransjen».

– Bruk gjerne KI, så lenge det finnes en avsender

Henrik Brattli Vold, fagansvarlig for KI og verifisering ved IJ, sier til Journalisten at debatten åpner for «veldig vanskelige grensetrekninger»:

– Hvor mye KI-bruk er for mye, og hvilke tekster skal man forvente er helt KI-frie? Bør reglene være annerledes for uerfarne innleggsforfattere enn for eksempel kommentatorer med stort produksjonspress, skriver han.

Vi skal ikke komme med noen konklusjoner her, men et poeng som dukket opp fra Aksel Braanen Sterri, fagsjef i tankesmien Langsikt, da debatten rundt Tojes kronikker først blusset opp tidligere i år, kan være verdt å ta med seg:

– Det er ikke bare innholdet i en tekst som betyr noe. Det gjør også avsender, skriver han i Aftenposten.

– Bruk gjerne KI til å skrive tekst, men det er kritisk viktig for oss at det finnes en avsender som ikke bare tar ansvar for det som står der, men som faktisk mener det, og at innholdet korresponderer med den kunnskapsdybden rollen deres antyder.

Kan vi egentlig stole på Pangram?

Før vi blir altfor ivrige med eventuelle KI-moralistiske pekefingre, kan det være smart også å se nærmere på hva dette KI-deteksjonsverktøyet Pangram egentlig er for noe. For hvordan kan de klare å lese en norsk tekst og avgjøre om de er ført i pennen av et menneske eller maskin, og ikke minst anslå i hvilken grad mennesket har fått hjelp av en maskinen?

Pangram er et amerikansk selskap som ble etablert i 2023. Siden da har de lansert flere modeller, der den siste – Pangram 4 – ifølge dem selv er så presis at den skal ha en treffsikkerhet på 99,98 prosent.

Alt den trenger for å kunne vurdere en sammenhengende tekst, er ifølge selskapet bare 50–60 ord.

Aftenposten har gjennomført en rekke egne tester for å ettergå disse påstandene. De bekrefter at nøyaktigheten er svært høy:

– Men vi klarte likevel ved ett tilfelle å lure den til å utpeke en KI-skrevet tekst som menneskelig. Vi klarte derimot aldri å få den til å påstå at menneskeskrevet tekst var KI-generert, skriver avisas Per-Kristian Bjørkeng.

Dette funnet underbygges av studier som viser at Pangram nyeste modell i bare ett av 24.000 tilfeller feilaktig hevdet at en tekst skrevet av et menneske er KI-generert.

… og hvordan virker det?

Men hvordan kan Pangram egentlig vite alt dette? Det er spørsmålet Morgenbladet stiller i artikkelen som megetsigende nok er titulert «Det er all grunn til å behandle KI-detektoren Pangram med varsomhet».

Her problematiseres det at verktøyet (som mange andre KI-verktøy) er en sort boks der tekst går inn på den ene siden, og som kommer ut på den andre – uten at engang skaperne selv vet hva som foregår på innsiden.

– Problemet med Pangram er bare at ingen egentlig vet hvilke signaler det er systemet plukker opp, skriver journalist Hanne Østli Jakobsen, som også minner om at norsk tross alt er et språk med lite treningsdata, og som attpåtil ikke er offisielt støttet av Pangram.

Manifest argumenterer i sin sak for at de står trygt i sine vurderinger, norsk språk til tross:

– Pangram oppgir 0 prosent KI-infeksjon for alle de 60 tekstene av fire andre NRK-kommentatorer vi har kjørt gjennom testen. Da kan det ikke være bruken av norsk som gjør utslaget hos Langum Becker.

Petter Bae Brandtzæg, som opprinnelig kritiserte Toje for KI-bruk, stiller seg ifølge Aftenposten ikke nødvendigvis kritisk til at man skal kunne bruke KI til språkvask og polering av setningen. Problemet, mener han, ligger i at noen bruker KI i «hele prosessen» og ikke bare som hjelpeverktøy.

– Samtidig vil vi mennesker gjerne vite hvem som har skrevet en tekst. Det kan vi ikke være fullstendig sikre på lenger. Det skaper et vedvarende ubehag, sier han.

Det har skjedd mye annet innen tech, KI og sikkerhet den siste uken. Her har vi oppsummert det viktigste:

Kunstig intelligens:

Sikkerhet:

Om unge og «uvaner» på nett:

Kraft og datasentre:

Og litt diverse til slutt: