Forskere advarer: I fremtiden kan KI-verktøy selge valgene dine før du tar dem
Ifølge forskere bør vi stille flere spørsmål om hvorfor tech-selskaper som selger persondata, nå utvikler store språkmodeller. Mer om dette og ukens tech-nyheter i Bits and Bytes.
«Hvis du ikke betaler for produktet, så er du produktet.»
Sitatet tilhører Tristan Harris, tidligere designetiker i Google, og brukes ofte for å forklare de underliggende mekanismene i oppmerksomhetsøkonomien.
Nettsider, apper og sosiale medier bruker alle triksene i boken når de kriger om å holde på oppmerksomheten din lengst mulig. Dette har i årevis vært den digitale verdens viktigste kapital.
Nå advarer forskere mot oppmerksomhetsøkonomiens potensielt enda mer inngripende etterfølger – nemlig intensjonsøkonomien.
Kan vite hva du skal gjøre – før du vet det selv
For finnes det en fare for at chatboter, KI-verktøy og digitale assistenter i fremtiden kan forstå og forutsi valgene dine, for så å selge denne informasjonen til høyestbydende?
Ifølge en ny studie fra universitetet i Cambridge er det mye som tyder på en fremvekst av markedsplasser for «kjøp og salg av digitale intensjonssignaler», skriver The Guardian.
Dette handler ikke bare om digitale spor som søkehistorikk, alder, oppførsel og interesser – som lenge har vært markedsføreres viktigste verktøy for å levere målrettet annonsering – men om langt mer intime opplysninger.
Opplysninger vi kan finne på å gi fra oss til fortrolige samtaleroboter som hjelper oss med alt fra å planlegge treningsprogram og legge opp dietten vår til å gi kjærlighetsråd.
Ifølge studien kan disse dataene både brukes til å finne ut av hva du kommer til å kjøpe og hvem du skal stemme på ved neste valg – før du selv har gjort deg opp en mening om det.
Kan vi stole på KI som samtalepartner?
Videre peker studien på at vi gir fra oss persondata på en helt annen måte når vi kommuniserer med KI-chatboter og digitale assistenter.
Vi bruker nemlig ikke bare KI-verktøy som ChatGPT til jobb. Vi kan finne på å dele intime detaljer og personlige opplysninger om hva som opptar oss. Det finnes KI-chatboter som er laget for å simulere vennskap og kjæresteforhold. Vi småprater og viser vår personlighet.
– Hva folk sier, hvordan de sier det, og hvilke slutninger som kan trekkes i sanntid, er langt mer intime enn bare registreringer av digitale interaksjoner, sier Dr Yaqub Chaudhary fra universitetet i Cambridge.
Meta-modell slår mennesker i strategispill
I en intensjonsøkonomi utelukker nemlig ikke studien at en KI-chatbot kan styre samtaler i retninger til fordel for tredjeparter.
For eksempel kan chatboten fange opp at du er overarbeidet og foreslå en ferie – et forslag som potensielt kan være betalt av et reiseselskap.
– Vi er bekymret for at KI-verktøy allerede er i ferd med å bli utviklet for å avdekke, tolke, samle inn, registrere, forstå, forutsi og til slutt manipulere og gjøre planer og intensjoner til en vare, sier Dr. Jonnie Penn, teknologihistoriker ved universitetet i Cambridge.
Studien viser blant annet hvordan Metas KI-modell CICERO er like god som mennesker i strategispillet Diplomacy – hvor man må forhandle, bygge tillit, samarbeide og forsøke å forutsi andre spilleres handlinger.
– Disse selskapene selger allerede oppmerksomheten vår. Det neste logiske steget for å få et konkurransefortrinn er å bruke teknologien de utvikler til å forutsi hva vi ønsker – og selge det til oss før vi selv har rukket å forstå det, sier Chaundry.
Selv om teknologien ikke fungerer slik i dag, understreker forskerne hvor viktig det er å være bevisst på hva som kan komme, for å unngå en uheldig utvikling – samtidig som de fremhever behovet for regulering.
– Vi bør allerede nå begynne å vurdere hvilke konsekvenser et slikt marked kan få – for frie og rettferdige valg, en uavhengig presse og rettferdig konkurranse – før vi risikerer å bli ofre for dets utilsiktede virkninger, sier Penn.
Her har vi samlet de viktigste tech-sakene fra den første uka i 2025:
KI-nytt
- Equinor har spart én milliard: Endret planleggingen med kunstig intelligens (DN)
- Kan gud snakke til oss gjennom KI? (The New York Times)
- Vil fylle Facebook og Instagram med KI-kontoer (Tek.no)
- KI-kjendis tror maskinene blir bevisste (Aftenposten)
- Norge sløser med tid og ressurser i KI-satsingen (Finansavisen)
- KI løser eldgamle gåter – og kan skrive om historien (Nature)
- Norsk KI-sensasjon: 1000 ganger raskere enn nevrale nettverk (Digi)
- Kan Frankrike bli en global KI-aktør? (Financial Times)
KI i arbeidslivet
- Erfaring trumfer digital oppvekst. Seniorene har forspranget med kunstig intelligens på jobben (Dagens Næringsliv)
- Er KI bra eller dårlig for arbeidstakere? En 26 år gammel mann fant et uventet svar (Wall Street Journal)
To ChatGPT-saker fra NRK
Kunstig intelligens og geopolitikk
- Kan kunstig intelligens utløse krig mellom USA og Kina? (Avisa Nordland)
- Diktakturer er sårbare for algoritmer (WIRED)
- Israel bygde en «KI-fabrikk» myntet for krig – og slapp den løs i Gaza (Washington Post)
- Straffer Russland og Iran for KI-innhold: «Prøvde å splitte oss» (Kode24)
Cybersikkerhet og data
- Selv kvantemaskiner klarer ikke å knekke denne koden (IEEE Spectrum)
- Apple må betale 95 milioner dollar etter at Siri gjorde opptak av samtaler (Ars Technica)
- Nye detaljer avdekker hvordan hackere fikk kontroll over 35 Chrome-utvidelser (Bleeping Computer)
- Nye cookie-regler fra 1. januar (Datatilsynet)
- Volkswagen-lekkasje: Delet lokasjonsdata til 800 000 elbiler (The Verge)
- Nye bevis støtter teoriene om at Russland saboterer kritisk digital infrastruktur (Fortune)
Amerikansk politikk
- Trump vil redde TikTok (The Verge)
- Nettnøytralitetens død er et dårlig tegn (WIRED)
- Meta ansetter Trump-vennlig toppleder (The Verge)
Robotikk
- Nvidia mener robotikk er i ferd med å ta av (Tech Spot)
- Operasjonsroboter har for første gang lært oppgaver fra å se på videoer (Washington Post)
