– Kan miste kontrollen på kunstig intelligens fullstendig
Forskere advarer om at selskaper og myndigheter må gjøre mer for å sikre oss mot irreversibelt frislipp av autonom, kunstig intelligens (KI). Les mer om dette og andre saker i ukens Bits & Bytes.
– Vi risikerer å fullstendig miste kontrollen over autonom, kunstig intelligens, med mindre vi utøver stor forsiktighet. Mister vi kontrollen vil det være irreversibelt og umulig å rette opp for mennesker.
Det skriver en lang rekke forskere i et åpent brev til selskaper og myndigheter. Brevet, med tittelen Managing AI Risks in an Era of Rapid Progress, understreker den enorme hastigheten kunstig intelligens nå utvikles i:
– I 2019 kunne ikke GPT-2 telle til ti. Fire år senere kan teknologien skrive kode og generere fotorealistiske bilder på et blunk. Når disse systemene nå skaleres, vil uforutsette egenskaper og oppførsel oppstå spontant – helt uten input fra mennesker.
Og det er nettopp det som er så farlig, ifølge både forskerne bak rapporten og mange andre i industrien. Elon Musk advarte tidligere i år om at KI kan bety slutten på sivilisasjonen, mens Google-sjef Sundar Pichai innrømmet at farene ved KI-utvikling holdt ham våken om natten.
Både positive og negative ringvirkninger
Samtidig som de altså advarer mot farene, påpeker de også at teknologien har enormt potensial for positive ringvirkninger for menneskeheten. Spesielt gjelder dette effektivisering av mange oppgaver mennesker anser som kjedelige eller strabasiøse. Det er også mye penger å spare når KI tas i bruk, både for enkeltmennesker, selskaper og myndigheter.
Bekymringen blant eksperter verden over er derfor at man i en slags effektiviseringsrus skal overse farene, og potensielt utvikle programvare vi til slutt ikke kan kontrollere.
– Vi risikerer en eskalerende kjedereaksjon av bekymringsfull adferd, der alt fra mindre digitale lovbrudd til sosial manipulering og total utslettelse av menneskeheten er potensielle utfall, skriver forskerne.
– Finnes en ansvarlig sti
De ber videre alle selskap som utvikler KI om å dedikere minst én tredjedel av utviklingsbudsjettene sine til sikkerhet og etikk. Myndigheter oppfordres på sin side til å lovfeste og håndheve strengere standarder, samt samarbeide bedre på tvers av landegrenser for å forhindre hensynsløshet og misbruk av KI-teknologi.
Dette har enkelte land allerede kommet godt i gang med; EU jobber for tiden med AI Act, et lovverk som ifølge unionen skal gjøre europeiske land til pionerer innen KI-regulering og rettigheter på nettet. Men med mindre alle verdens land samarbeider om lignende reguleringer vil farlige KI-teknologier ubønnhørlig oppstå.
– Kunstig intelligens kan være teknologien som former dette århundret. Og det finnes en riktig og ansvarlig sti, dersom vi er kloke nok til å følge den, avslutter forskerne i rapporten.
Er du sulten på flere KI-nyheter fra uken som har gått? Da kan du ta en titt på sakene under:
- Nytt verktøy beskytter kunstneres arbeid fra KI-roboter (Extreme Tech)
- Googles nye bildeverifiseringsverktøy luker ut KI-genererte bilder (Engadget)
- Professor: – KI og sosiale medier har gitt oss en ytringsfrihetskrise (The Verge)
- Google Pixel-telefonenes ansiktsteknologi starter stor KI-debatt (BBC)
- Håp eller horror? Den store KI-debatten splitter pionerene i bransjen (The Guardian)
- Sparebank 1 Østlandet legger seg flat etter KI-generert bilde (NRK)
- Harald finnes ikke (Dagbladet)
- Microsoft fokuserer på OpenAI – og sørger for verdifall for Alphabet (Reuters)
- Arbeidere benytter KI på jobb – i all hemmelighet (BBC)
- Burde vi arbeide på 85 prosent kapasitet? Dette er fordelene og ulempene (The Next Web)
Lyst til å snakke trygt med KI? Prøv prompting-kurset:
Introkurs
Lær prompting med språkmodeller som ChatGPT
Slik snakker du trygt og effektivt med kunstig intelligente verktøy med bruk av prompt engineering.
Norge er under digitalt angrep – igjen:
Threads vokser og vokser – snart større enn Twitter/X?
Biologi og teknologi i harmoni:
- Ny teknologi kan revolusjonere måten vi måler blodtrykk på (Smithsonian)
- Fisketopp tror hologrambriller og internett fra Elon Musk kan spare dem for millioner (Shifter)
Romfartsindustrien durer videre:
- SpaceX vil skyte opp europeiske satellitter lastet med klassifiserte systemer (Extreme Tech)
- Solpaneler i verdensrommet er kommersielt mulig, viser studie (The Next Web)
Fornybar energi er også viktig i dette århundret:
- Amazon legger til 1GW fornybar energi til Europas strømnett (The Next Web)
- Honda og GM har gitt opp å produsere billige elbiler (Engadget)
Spotify vil endre inntjeningen til artistene:
Google endrer på sin digitale brevdue:
- Ny emoji-skuff i Gmail gir plattformen en sårt tiltrengt overhaling (The Verge)
- Etter 25 år har jeg nå byttet ut Google med noe bedre (Aftenposten)
Hva med litt spillnyheter sånn på tampen?
Lær noe nytt med et av våre gratis kurs:
Tjenester
Digitale kurs
Trenger du eller dine ansatte kompetanseheving på teknologi, innovasjon og digitale verktøy? Kursene er helt gratis og utviklet i samarbeid med noen av de tyngste fagmiljøene i norsk næringsliv og akademia.
