Er sosiale medier klare for deepfake-bølgen?
Digitale etterligninger av ekte mennesker blir stadig både vanligere og mer troverdige. Nå går den ekstremt populære YouTuberen MrBeast hardt ut mot fenomenet på X, og får støtte fra flere hold. Les mer om dette og andre saker i ukens Bits & Bytes.
– Masse folk har fått denne deepfake-svindelen som bruker mitt ansikt … er sosiale medie-plattformer klare for å håndtere veksten til KI-genererte deepfakes? Dette er et seriøst problem.
Dette skrev Jimmy Donaldson, bedre kjent som MrBeast, på X (tidligere Twitter) etter at en video der han angivelig ga bort 10.000 iPhone 15 Pro-enheter gikk viralt. Han la også ved videoen i innlegget, og om man ikke kjenner til konteksten fremstår svindelen svært troverdig.
I videoen spres følgende budskap:
– Om du ser denne videoen, så er du en av de 10.000 heldige menneskene som vil motta en iPhone 15 Pro for bare 20 kroner. Jeg er MrBeast, og jeg gjennomfører verdens største iPhone 15-utdeling. Klikk på lenken under for å motta din enhet nå.
En deepfake er kort og greit en etterligning av en faktisk person, generert av kunstig intelligens (KI). I klippet etterlignes Donaldsons stemme, klær, fakter og ansikt nesten helt perfekt – ja, foruten et litt monotont stemmeleie fremstår det i det hele tatt svært ekte.
Ifølge Medium leder lenken i svindel-klippet til en nettside som etterligner en post fra Donaldsons Instagram-konto, der iPhone-utdelingen promoteres. Det er dessuten en nedtelling der antallet tilgjengelige iPhoner stadig går ned – og brukeranmeldelser fra «fornøyde kunder».
Kjendisers ansikt misbrukes stadig oftere
Problemstillingen Donaldson løfter frem er noe mange andre også har begynt å bekymre seg for i det siste, og det er mange eksempler innen kjendisenes verden. Deepfakes og kunstig intelligens var et brennhett tema i den amerikanske skuespillerforeningen SAG-AFTRAs nylige streik, som lammet film- og serieproduksjon verden over.
Tom Hanks advarte nylig om at hans person misbrukes på nett – og den avdøde skuespilleren Robin Williams’ datter var forferdet over at farens ansikt dukket opp på nett igjen med nye utsagn. For å nevne noe. Kort og godt: mulighetene for misbruk, og selvsagt også svindel, er enorme.
Klarer X, Facebook, Instagram, TikTok og andre sosiale medier å luke ut svindler som dette? Og er de i det hele tatt villige – eller i stand – til å gjøre det?
– Terskelen blir lavere og lavere
I Donaldsons tilfelle har TikTok, der videoen først spredte seg, allerede handlet og tatt den ned – men ønsker ikke å uttale seg om saken. De viser til retningslinjene sine, der alt innhold generert av KI må merkes tydelig.
Likevel er det neppe mer enn et spørsmål om tid før flere videoer genereres og spres. Algoritmene bak KI-maskineriet kan jobbe langt raskere enn det menneskelig moderering kan.
Andre nettkjendiser har også uttalt seg i kjølvannet av MrBeast-klippet, og løfter frem sine bekymringer. Ludwig Ahgren, en av verdens største YouTube-personligheter, sier at problemet vil vokse seg større og større de neste årene:
– Teknologien har hatt en enorm utvikling på bare et par år. For to år siden var deepfakes som dette helt utenkelig. I dag er det faktum, sier Ahgren.
– Dette er ikke noen eventyrfortelling om at KI en gang i fremtiden vil greie å imitere folk perfekt, og at terskelen for å benytte teknologien til å gjøre dette vil være veldig lav. Dette er virkeligheten vi lever i.
Tror ikke teknologigigantene vil ta ansvar
Ahgren sier at teknologigiantene som står bak plattformene, som Google og Meta, må ta ansvar og bygge inn forsvarsmekanismer som fanger opp KI-generert innhold.
Han får støtte fra en annen stor YouTuber og Twitch-strømmer, Asmongold (Zack Hoyt), som samtidig også sier at han har liten tro på at slik regulering faktisk vil skje:
– YouTube greier ikke engang å følge opp og bruke sine egne forsvarsmekanismer i dag. Og de har ingen grunn til å gjøre det heller – folk kommer til å bruke tjenesten uansett. Så det gir ingen mening for dem å regulere eller bry seg om dette, sier Hoyt.
Finn ut mer om deepfake-svindelen hos Medium, NBC og på YouTube – og ta en titt på andre spennende KI-saker fra uken som har gått:
- Nå snakker ChatGPT som et menneske (Aftenposten)
- Over 40 prosent av arbeidsplasser vil påvirkes av KI innen 3 år (CNBC)
- KI genererte Norsk Ukeblads nye forsidemodell (Kampanje)
- Robin Williams’ datter går ut mot at farens ansikt misbrukes av KI (Screen Rant)
- Tom Hanks advarer mot at ansiktet og stemmen hans misbrukes på nett (VG)
- KI-pins debuterer under moteuken i Paris – men hva er det? (The Verge)
- KI-vannmerker er for lette å fjerne, ifølge ny forskning (Extreme Tech)
(Artikkelen fortsetter nedenfor).
Gratis kurs: Lær å snakke trygt og effektivt med ChatGPT
Introkurs
Lær prompting med språkmodeller som ChatGPT
Slik snakker du trygt og effektivt med kunstig intelligente verktøy med bruk av prompt engineering.
Nye Meta- og Musk-kontroverser:
- Så mye vil de at du skal betale for Facebook og Instagram i måneden (Tek)
- … men avgiften vil kun gjelde i EU-land (Kampanje)
- Elon Musk saksøkes for å holde tilbake Twitter-informasjon (Engadget)
- X fjerner nå forhåndsvisninger fra lenker (Engadget)
Teknologi og arbeidsplasser er ikke bare bare:
- Bakgrunnsbildet i videomøter kan ha større betydning enn mange tror (DN)
- Det er på tide å ende krigen mot hjemmekontoret (US News)
- Fleksibilitet bygger sterke organisasjonskulturer (Future Forum)
- – KI vil fjerne noen jobber, men øke livskvaliteten mye (Bloomberg)
Teknologigigantene har også saker på gang:
- Apple fikser ikke lenger den gullbelagte Apple Watch-klokken (The Verge)
- Google tester ut ny teknologi for synshemmede (Computerworld)
- Google-sjefen: – Bing er verre enn Google, men Apple kan fikse det (The Verge)
- Microsoft og Amazon er i juridisk trøbbel grunnet skytjenester (Engadget)
Sikkerhet på nett er viktig – men mange nordmenn går i fella:
- 1,2 millioner nordmenn har blitt svindlet på nett (Computerworld)
- Folk selger NFT-er til seg selv for å få prisene opp (NBC)
- Sony bekrefter at ansattes personlige data kan være på avveie (Tek)
- Google tar nye grep mot søppelpost (Tek)
Vil du lære noe nytt? Ta et av våre gratis kurs:
Tjenester
Digitale kurs
Trenger du eller dine ansatte kompetanseheving på teknologi, innovasjon og digitale verktøy? Kursene er helt gratis og utviklet i samarbeid med noen av de tyngste fagmiljøene i norsk næringsliv og akademia.
