AI Act krever at KI-generert tekst merkes – men hva betyr det egentlig?

Anthropic skal begynne å vannmerke tekst produsert med Claude. Selskapet opplyser om at det er for å oppfylle AI Act sine regler for KI-generert innhold.

Dette vannmerket vil være usynlig for oss mennesker, men skal kunne leses av maskiner for å avgjøre om Claude har skrevet (eller hjulpet til med å skrive) teksten.

Enkelt forklart innebærer dette at det vil oppstå små, granulære mønstre i ordsammensetningen som avgjør hvorvidt formuleringene kommer fra menneske eller maskin.

Det kan være mange fordeler med dette: Det blir lettere å ettergå kilder, avsløre såkalte boter på nettet, avdekke desinformasjon – og utdanningsinstitusjoner skal i teorien kunne se om studenter leverer KI-tekst som sitt eget arbeid, for å nevne noe.

Helt uten at europeiske kontorarbeidere skal måtte lure på om de selv må opplyse om bruken av Claude og ChatGPT når de sparrer om mailer, rapporter og infoskriv.

Eller?

Når må KI-innhold merkes synlig?

The Guardian skriver nemlig at video, bilder og lyd, men også tekst, som er generert eller manipulert med kunstig intelligens, i noen tilfeller må merkes synlig.

Rent praktisk innebærer det at man må opplyse om bruken i klartekst, eller benytte seg av et svanemerkelignende symbol.

Så hva betyr det egentlig? Må alle som bruker KI til å sparre om tekst legge ved synlige tegn dersom språkmodeller har vært innom på veien?

Som oftest er svaret (heldigvis) nei.

Slipper merking - så lenge tekst er kvalitetssikret

Ifølge EU-kommisjonen sin egen svarbank om AI Act er det nemlig noen spesifikke KI-genererte tekster som må merkes på visuelle måter.

Dette gjelder innhold som er av offentlig interesse: Ting som har med temaer som politikk, samfunnsliv, helse, sikkerhet, offentlige tjenester å gjøre.

Her kommer det imidlertid et par relevante unntak:

Reglene gjelder ikke for personlig innhold, som sosiale medier og private e-poster. Man trenger heller ikke å merke tekst som er kvalitetssikret av et menneske, eller underlagt redaksjonell kontroll.

Med andre ord: Har du gjort en reell gjennomgang av innholdet og kan ta ansvar for teksten, foreligger ikke merkekravet.

Ren korrektur, grammatikkretting og andre overfladiske gjennomganger regnes derimot ikke som tilstrekkelig menneskelig vurdering, ifølge EU-kommisjonens svarbank.

EU-reglene treffer oss uansett

AI Act er som kjent ikke gjeldende lov i Norge. Her hjemme er vi i ferd med å gjennomføre forordningen som en egen norsk KI-lov.

Likevel kan det uansett være verdt å følge med på utviklingen av AI Act – både fordi vi trolig vil få mange av de samme reglene i Norge – men også fordi forordningen allerede påvirker produktene og tjenestene vi bruker i dag.

For eksempel ruller Anthropic ut vannmerket globalt.

Enkelte har fryktet at vannmerkingen kan gå utover kvaliteten på teksten, fordi modellen får færre muligheter når den velger ord, skriver The Guardian. Anthropic sier selv at forskjellen skal være umerkelig, og at mening, kvalitet og lesbarhet skal være den samme.

Hvor vanntett er vannmerket?

KI-generert kildekode er på sin side unntatt fra dette merkekravet. Samtidig har Anthropic selv pekt på at kode er vanskeligere å vannmerke.

Andre lurer på hvordan vannmerker skal brukes i KI-generert kode – der tilfeldigheter og frie formuleringer ikke spiller en like stor rolle – noe Anthropic selv medgir er krevende.

På toppen av dette har utviklere allerede funnet effektive måter å omgå vannmerker på, skriver teknologinettstedet Wired. Så da blir spørsmålet om lovnadene om sporbarhet heller gir en falsk følelse av kontroll?

Målet bør ikke være å «avsløre» eller mistenkeliggjøre folk som bruker KI. Poenget med åpenhet er å gjøre det enklere å ha tillit til teknologien – ved å vite hva KI har bidratt med, hva et menneske har vurdert, og hvem som står for sluttresultatet.

Det har skjedd mye annet innen tech, KI og sikkerhet den siste uken. Her har vi oppsummert det viktigste:

Kunstig intelligens

Sikkerhet

Politikk og samfunn

Diverse nyheter