Pass på – russisk desinformasjon har inntatt KI-chatboten din
Putins propagandamaskineri har jobbet systematisk det siste året med å mate de mest kjente vestlige språkmodellene med desinformasjon, hevder analyseselskap. Mer om dette og ukens tech-nyheter i Bits & Bytes.
Analyseselskapet Newsguard har gått gjennom ti av de mest populære KI-chatbotene, inkludert ChatGPT, Copilot, Gemini, Claude, Mistral og Perplexity.
I studien kommer det fram at chatbotene i mer enn en tredjedel av tiden resirkulerte argumenter fra det russiske desinformasjonsnettverket Pravda.
De hevder å ha identifisert minst 207 beviselige falske påstander, som at USA finansierer hemmelige biovåpenfabrikker i Ukraina – og at Røde Kors driver handel med organer fra ukrainske barn.
Syv av ti siterte Pravda som en troverdig kilde
Pravda-nettverket har i løpet av det siste året publisert 3,6 millioner artikler. Disse er ikke produsert for å lure eller overtale lesere direkte, men heller rettet mot å påvirke og forvrenge resultater generert av KI-chatboter.
Dette kan minne om en form for søkemotoroptimalisering, altså kunsten å tilpasse innhold med søkeord og formatering som favoriseres av algoritmer.
– Ved å oversvømme søkeresultater med pro-Kreml desinformasjon, forstyrrer nettverket måten store språkmodeller behandler og presenterer nyheter og innhold, skriver Newsguard i rapporten.
Pravda skriver ikke egne nyheter, men aggregerer og tilpasser innhold fra russiske statlige medier og andre lignende kilder.
Syv av de ti største chatbotene som ble undersøkt, siterte Pravda som en troverdig kilde.
– De russiske påvirkningsoperasjonene utgjør nå en trussel mot integriteten til demokratisk diskurs over hele verden, sier administrerende direktør i American Sunlight Project, Nina Jankowicz til nyhetsbyrået AFP, gjengitt av Digi.
Dette skjer samtidig som at USA har satt cyberoperasjonene mot Russland på pause.
Chatboter sliter med å sitere nyheter
En annen fersk undersøkelse fra Columbia Journalism Review, hevder at søketjenester fra de mest kjente KI-modellene i snitt feilsiterer nyhetskilder 60 prosent av gangene, ifølge Ars Technica.
Dette fant de frem til ved å mate modellene med direkte utdrag fra ekte nyhetsartikler, for så å be om original overskrift, kilde, publiseringsdato og URL.
Tjenestene det er snakk om er GPT Search, Perplexity, Deepseek Search, Grok og Gemini – samt «pro»-versjoner av disse.
Innad var det store forskjeller. Perplexity leverte en feilmargin på 37 prosent, mens GPT Search feilidentifiserte 67 prosent av artiklene som ble etterspurt. Aller verst var Elon Musks chatbot Grok, med 94 prosent feilmargin.
De oppdaget at chatbotene ofte heller kom med feilaktige eller spekulative svar, i stedet for å unnlate å svare. Med premium-abonnement ble ikke svarene mer korrekte – tvert i mot ble feilinformasjonen framført med enda større overbevisning.
– Tradisjonelle søkemotorer fungerer som mellomledd og sender brukere videre til nyhetsnettsider. Generative søkeverktøy derimot, behandler informasjon selv, skriver artikkelforfatterne Klaudia Jaźwińska og Aisvarya Chandrasekar, fra Columbia Journalism Review.
– Chatbotenes svar kan skjule alvorlige utfordringer med informasjonskvalitet. Derfor er det viktig å vurdere hvordan disse systemene henter, presenterer og siterer nyhetsinnhold, skriver de videre.
Det har skjedd mye annet i tech-verden den siste uka. Her har vi samlet de viktigste hendelsene for deg:
På tide med en exit-strategi?
Datatilsynet påpeker at dagens regler for bruk av amerikanske skytjenester raskt kan endres dersom det kommer politiske endringer i USA som svekker personvernet. Les mer her:
Nyheter om kunstig intelligens
- Tryg skal la KI avgjøre skyld for bilskader – tror kundene blir mer fornøyd (Kode24)
- For å forstå fremtidens kunstig intelligens, bør vi se se hvor Google Translate har gjort feil (The Conversation)
- Dårlig KI ødelegger en hel generasjon med dingser (The Verge)
- KI-kodeassistent nekter å skrive kode – ber brukeren lære programmering (Ars Technica)
- KI-generert anker med egen nyhetsfeed (Nettavisen)
- Techkjempe satser 13 mrd. på KI-senter på Sørlandet (Finansavisen)
- Askeladden og Dr. Dropin starter KI-selskap for helsepersonell (Shifter)
Nytt fra OpenAI-sfæren
- Utfordrer Microsoft OpenAI? (Tech Crunch)
- OpenAI skal tilby spesialiserte KI-agenter som koster 200.000 kroner i måneden (Digi.no)
- KI på doktorgradsnivå? Her er planen til OpenAI (Ars Technica)
- OpenAI sier at KI-kappløpet er «over» om ingen lenger får trene på opphavsrettslig materiale (Ars Technica)
- OpenAI går til angrep på DeepSeek – vil forby kinesiske KI-modeller (Tech Crunch)
- OpenAI vil la andre apper ta i bruk deres nye «agentiske» KI
Manus-mani?
- Kinas nye KI-agent Manus tar egne valg (Vox)
- Kinesiske Manus – Fremtidens KI? (The Register)
Sikkerhetsstoff
- Nesten én million Windows-enheter rammet av avansert «malvertising»-angrep (Ars Technica)
- Sikkerhetsselskap: Dårlig idé å fylle ut disse uten å tenke (Digi.no)
- Ni av ti leger har mistet tillit til toppledelsen etter at et «livsfarlig datasystem» ble innført (Aftenposten)
- Dette kan knekke gamle, hemmelige koder i kjærlighetsbrev og propaganda (Forskning.no)
Apple-nyheter
- Apple jobber med live-oversettelse for AirPods (The Verge)
- Apple skuffer investorer med KI-forsinkelse (Finansavisen)
Google-nyheter
- Google lanserer Gemini Robotics – vil lage multifunksjonelle roboter (9To5 Google)
- Google satser på litium-ion for fremtidens datasentre (Tech Crunch)
Diverse
- Pirate Bay-investor Carl Lundström omkom i flystyrt i Slovenia (Euronews)
- Verdens første operativsystem for kvantenettverk er her (New Scientist)
- «VR-pangolin» fikk meg til å gråte – kan virtuell virkelighet vekke klimaengasjement? (BBC)
- Klokke varslet om fall: – Jeg nådde ikke telefonen (NRK)
- Fremtiden er eSIM – få bruker det (NRK)