KI forbløffer og forferder – lager filmplot og nakenbilder

Robotalv laget med KI-verktøyet Stable Diffusion.

Sosiale medier renner over av flotte profilbilder og velkomponerte tekster laget av kunstig intelligens. De kommer også med store etiske og juridiske tankekors. Her er oppsummeringen av tech-uken som gikk.

«Kunstig intelligens, KI, har vært et raskt voksende felt de siste årene, og potensielle bruksområder er uendelige. Et område som har blitt spesielt påvirket av KI, er journalistikken. Med fremveksten av KI-drevne nyhetsaggregatorer og algoritmer som kan skrive artikler, står journalistikkens fremtid i fare.»

Slik starter en artikkel, publisert på Subjekt denne uken, som problematiserer den økende bruken av kunstig intelligens i journalistikken.

Tvisten er at hele artikkelen er generert av ChatGPT, et KI-program utviklet av OpenAI. Selv når «forfatterne» beklager at de har brukt kunstig intelligens, er det ChatGPT som fører pennen (oversatt fra engelsk til norsk ved hjelp av KI).

Og du har kanskje sett at mange har laget opp forbløffende flotte profilbilder, laget ved hjelp av appen Lensa. Appen er basert på KI-tjenesten Stable Diffusion og har fått kunstnere til å reagere, skriver TechCrunch. Som vi har skrevet om tidligere er det store spørsmålstegn knyttet til opphavsrett, og mange kunstnere ser på KI-bilder som en trussel mot deres virke. 

En rask avklaring: Dette innlegget er ikke skrevet av kunstig intelligens – her er kun gjennomsnittlig menneskelig intelligens i bruk.

At kunstig intelligens er blitt såpass lett tilgjengelig for hvermannsen er både veldig gøy og samtidig problematisk. Aftenposten skriver blant annet at lærere nå er bekymret for at elever skal bruke ChatGPT i skolearbeidet.

Det kan føre til at de skyter seg selv i foten. Ifølge eksperter avisen har snakket med er ChatGPT programmert til å være en slags lystløgner: den kan produsere lange utgreiinger om et emne som fremstår troverdige – men disse er ofte fulle av feil.

– Det er viktig å legge merke til at dette ikke er en kunnskapsmodell, men en språkmodell. Derfor må den brukes med forsiktighet, sier Jon Atle Gulla i Aftenposten-artikkelen.

Altså: Ber du den om å skrive utvikle et filmplot, for eksempel til en spennende actionfilm ombord en oljeplattform, kan KI-en levere et oppsiktsvekkende godt resultat. Ber du den derimot om å skrive en fagtekst, bør du være klar med rødpennen når du leser korrektur – her kan det som fremstår som troverdig fakta, i virkeligheten være rent oppspinn.

Nakenbilder fra barndomsfotografier

Likevel går utviklingen i et forrykende tempo, og allerede har vi sett antydninger til hvordan programvare som ChatGPT kan utnyttes til ugjerninger. Hvis KI lærer seg å programmere, noe Googles DeepMind-divisjon har prøvd ut, er ikke veien til cyberkriminalitet altfor lang. Faktisk skriver Cyberscoop at KI i fremtiden kan være til god hjelp for hackere, og kan potensielt redusere tiden det tar å skrive skadevarekode – fra timer til noen få sekunder.

Også bildegeneratorene har problematiske bruksområder. Medieviter Ståle Grut sier til TV 2 at KI-verktøy som Lensa etter hvert kan bli så gode at det blir vanskelig å skille dem fra fotografier. 

– Da kan man enkelt lure folk, sier Grut til kanalen.

Og enda verre: Det er overraskende enkelt å lage seksualiserte bilder med Lensa-appen.

Wired-journalist Olivia Snow testet grensene for hva det var mulig å gjøre med appen – med bilder av seg selv både som voksen og barn. 

– Jeg ble servert nakenbilder av et ungdommelig og noen ganger barnlig ansikt, men en utpreget voksen kropp. I likhet med mine tidligere tester som genererte forførende utseende og positurer, produserte dette settet en slags blyghet: en bar rygg, rufsete hår, en avatar med mitt barnlige ansikt som holder et blad mellom hennes nakne voksnes bryster, skriver Snow.

Også TechCrunch har forsøkt å generere sensitive bilder med KI-appen, med like skremmende resultater. De mener det er skremmende hvor enkelt det er å lage falske bilder av dem du har tilgang til bilder av.

– Når vi legger til mulighetene for sensitivt innhold i denne miksen, beveger vi oss veldig raskt inn i et ganske grumsete territorium: vennene dine eller en tilfeldig person du møtte i en bar og utvekslet Facebook-vennestatus med, har kanskje ikke gitt samtykke til at noen har generert mykporno av dem, skriver de.

Rådet later altså til å være at vi bør bruke KI-verktøyene som stadig blir mer tilgjengelige med omhu. Problemstillingene knyttet til slike programmer vil nemlig neppe forsvinne med det første.

– KI-generatorer virker som en veldig god idé, men internett er, på sitt beste‚ vanskelig å styre – og vi står kollektivt overfor en vegg av juridiske, moralske og etiske dilemmaer, konkluderer TechCrunch.

Vil du lese mer om KI-verktøyene? Sjekk ut disse sakene:

(Artikkelen fortsetter nedenfor).

Vil du lære mer om kunstig intelligens? Ta vår veiviser – gratis:

Veiviser

Kunstig intelligens på arbeidsplassen

KI endrer hvordan vi lever og jobber. Lær om mulighetene med teknologien – samt hvordan og hvorfor vi alle må bidra til å styre utviklingen i etisk og ansvarlig retning.

4 Moduler0% Fullført

Nok en innholdsrik uke for Meta:

Giganten legger ned i Norge og truer med å fjerne alt nyhetsinnhold fra Facebook og Instagram.

Også TikTok er – nok en gang – i søkelyset:

Helomvending om drapsroboter – enn så lenge:

San Francisco har snudd rundt en kontroversiell beslutning om å la roboter bruke dødelig makt uten menneskelig innblanding. Men kampen er langt fra over.

USA tar grep i den kalde «chip-krigen» med Kina:

Flymodus ser ut til å være på vei ut:

Vi kommer oss ikke unna Elon Musk denne uka heller:

Ny trojaner ser ut som løsepengevirus – er egentlig en «utsletter»:

Sikkerhetsselskap advarer mot ny skadevare. Og litt annet om datasikkerhet.

Vurdert å koble av – bokstavelig talt? Det er kanskje enklere enn du tror:

Trenger du litt faglig påfyll? Sjekk ut våre gratis kurs:

Mikrokurs

Bærekraft og lønnsomhet

Hva har bærekraft med lønnsomhet og finansiering å gjøre? Faktisk veldig mye. Lær hvorfor i dette mikrokurset.

10 min5 Moduler0% Fullført

Mikrokurs

Hva bør du vite om agile, lean og design thinking?

I dette mikrokurset lærer du hva hver av disse arbeidsformene innebærer – og hvor og når de bør brukes.

54 Moduler0% Fullført

Veiviser

Digital sikkerhet

Cyberkriminalitet er et problem som påvirker alle nivåer i en bedrift. Det er et felles ansvar – og det starter med deg. Denne veiviseren passer for deg som trenger en innføring i cybersikkerhet.

605 Moduler0% Fullført