OpenAI-sjefen: – KI er nødvendig for at menneskeheten skal overleve
Selskapet bak ChatGPT visste egentlig ikke hva de skulle gjøre med teknologien «alle» snakker om. Men den er bare et lite steg på veien mot det endelige målet – kunstig generell intelligens. Les mer om fremtidens KI, samt resten av ukens viktigste tech-nyheter.
I november tvitret Sam Altman, grunnlegger og daglig leder i OpenAI, at de hadde lansert ChatGPT til offentligheten. «Prøv å snakk med den her», oppfordret han. Og om vi snakket med den: I løpet av fem dager hadde over én million mennesker testet ut tjenesten – en milepæl det tok Facebook hele ti måneder å nå, skriver Forbes i en omfattende artikkel om selskapet bak verdens heteste teknologi.
Siden den gang har ChatGPT rukket å imponere og forferde – for eksempel innen utdanningsfeltet. Bare den siste uken har tjenesten bestått jusseksamen ved universitetet i Minnesota og blitt forbudt ved flere danske universiteter. Noen ser generativ KI som en trussel, mens andre mener det har mye å tilføre utdanningssystemet.
Andre bruker det til å lage treningsprogrammer.
At ChatGPT skulle gå viralt overrasket utviklerne i OpenAI. De utviklet opprinnelig chatboten for å forbedre deres kraftige språkmodell GPT-3 gjennom konstant feedback fra samhandling med mennesker. Men de fikk det ikke til å funke helt, og som nærmest et siste forsøk bestemte de seg for å gjøre den tilgjengelig for offentligheten. Det gikk, mildt sagt‚ over all forventning.
Microsoft kunngjorde denne uken at de utvider samarbeidet med OpenAI med en investering som ifølge rapporter skal være på rundt 100 milliarder kroner.
Fører til virkelighetens Skynet?
Men OpenAI har aldri hatt som mål å hjelpe skoleelever med skolearbeidet (eller jukse seg til bedre karakterer). ChatGPT er nemlig bare et lite steg mot det Forbes beskriver som Altmans overordnede – og hårete – oppdrag: å utvikle kunstig generell intelligens (KGI). Altså: En KI som kan forstå, lære og utføre handlinger på lik linje med et menneske.
– KGI er sannsynligvis nødvendig for at menneskeheten skal overleve. Problemene våre virker for store til at vi kan løse dem uten bedre verktøy, tvitret Altman i fjor sommer.
En allvitende kunstig intelligens kan virke skremmende for de av oss som har konsumert litt sci-fi (Skynet, anyone?), men i Altman og OpenAIs visjon er KGI et verktøy som hjelper menneskeheten å løse verdensproblemer i stedet for å se på mennesket som problemet.
– Trussel mot samfunnsstrukturen
Som det kommer frem i Forbes-artikkelen, er det mange som tviler på om vi noensinne kommer til å utvikle KGI. Andre er opptatt av fremgangsmåten til OpenAI, og mener at det å frigi avansert KI til hvermannsen for å forbedre teknologien er uansvarlig:
«Det er som å gi folk ladde våpen og si at det er den beste måten å finne ut om de faktisk vil skyte hverandre», heter det i artikkelen.
– Generativ KI er en reell og overhengende trussel mot samfunnsstrukturen, mener Gary Marcus, professor i kognitiv vitenskap ved New York University. Ved å gjøre det enklere å produsere falsk informasjon, kan systemer som OpenAIs slippe løs en flodbølge av desinformasjon, argumenterer han.
Ifølge Marcus har ikke disse systemene mekanismer for å sjekke sannhetsgehalten i innholdet de produserer, eller i det hele tatt å validere om det de sier stemmer overens med egen treningsdata.
– De forutser sekvenser av ord i setninger – som autofullføring på steroider, sier han til Forbes.
Sikkerhetseksperter advarer også om at tjenestene vil gjøre det enklere å begå nettkriminalitet. Cybersikkerhetsfirmaet Check Point sier til Forbes at de klarte å få ChatGPT til å komponere hver fase av et cyberangrep – fra å lage overbevisende phishing-e-poster til å skrive ondsinnet kode som unngår vanlige sikkerhetssjekker.
Utrolig fremtid eller «lights-out»?
Kritikken til tross, vi kan vente oss stadig flere KI-løsninger fremover. Google, som blant annet finansierer selskapet DeepMind (et annet selskap som drømmer om KGI), ruster seg for kamp mot OpenAI.
Forskningsavdelingen deres jobber med å utvikle en rekke prosjekter, blant annet språkmodeller og generativ kunstig intelligens. Ifølge The New York Times står giganten klar med mer enn 20 ulike KI-tjenester i år.
For OpenAI er trolig den neste store lanseringen en enda kraftigere språkmodell (GPT-4) som være klar allerede i år. De har også «mindre» prosjekter gående, som for eksempel WebGPT – en variant av ChatGPT som besvarer spørsmål ved å oppsummere relevant informasjon fra en søkemotor. En viktig begrensning ved ChatGPT er nemlig at den ikke har tilgang til internett og den kan derfor ikke gi oppdatert informasjon – kun den informasjonen som er brukt i treningsdataen.
Men som sagt er dette – i hvert fall for OpenAI – små skritt på veien mot en fremtid som selv Altman har vanskelig for å sette ord på:
– Jeg tror det beste utfallet for KI er så utrolig bra at du høres ut som en gal person når du om det. Det verste tilfellet er «lights-out» for oss alle, sa Altman.
Så ja: Skyfri himmel … eller Skynet. Eller kanskje noe midt imellom?
(Artikkelen fortsetter nedenfor).
Vil du lære mer om ChatGPT? Ta vårt gratiskurs:
Introkurs
Hva er og hvordan bruke ChatGPT?
Lær det viktigste om ChatGPT – hva er det, hvordan fungerer det og hvilke konsekvenser kan chatboten få.
Ellers i KI-verden:
Kunstig intelligens i rettssalen, på nyhetsdesken … og i parfymelabratoriet. Og trolig til trolling av norsk lokalavis:
- En robot skulle etter planen argumentere i retten – så kom truslene om fengsel (NPR)
- AI-robot skrev nyhetsartikler i det skjulte, fulle av feil (Tek.no)
- Denne startupen bruker KI for å finne nye lukter (Wired)
- Budstikkas «utroskaps-gratulasjon» går viralt: Nå er den slettet (Journalisten)
- Gode oversettelser blir oversett på strømmetjenestene (NRK)
- Overmenneskelige algoritmer kan ende med å «drepe alle», advarer forskere (Popular Mechanics)
Oppsigelsene fortsetter hos tech-gigantene:
- Hvorfor sier så mange teknologiselskaper opp folk akkurat nå? (The Verge)
- Microsoft kritiseres for å invitere til privat Sting-konsert for lederne før masseoppsigelser (NME)
- Spotify kutter jobber – i foreløpig siste runde med tech-oppsigelser (BBC)
- IT-giganten IBM sier opp tusenvis (Digi.no)
- Nok en IT-gigant kutter tusenvis av ansatte (Digi.no)
Heller ikke teknologikrigen mellom USA og Kina ser ut til å avta:
- USA-Kina-konflikt rammer europeisk teknologiprodusent (ComputerWorld)
Nytt internasjonalt initiativ mot løsepengevirus:
Er det problemer i Tesla-land?
Elbil-kjempen fremmedgjør kundene sine, bringer inn mindre inntekter og faller bak eldre bilprodusenter.
USAs regjering går etter Googles annonsevirksomhet:
Og selskapet kan tape.
Samtidig kan de vente tøff kamp fra Apple:
60 millioner mer til bredbåndsutbyggingen i Norge:
Hvordan Wikipedia behandler kontroversielle redigeringer kan gi gjenklang over hele internett:
- Kulturkrigene ser annerledes ut på Wikipedia (The Atlantic)
Forskere blir bergtatt av James Webb-teleskopet
- Hvordan James Webb-romteleskopet «knuste» universet (MIT Technology Review)
Overskriften du kan ha vanskelig for å tro på: Gullfisk svindler eieren med Nintendo Switch!
Æresord: Denne saken er ikke generert av kunstig intelligens.
Lær noe nytt med et av våre gratis kurs:
Veiviser
Kunstig intelligens på arbeidsplassen
KI endrer hvordan vi lever og jobber. Lær om mulighetene med teknologien – samt hvordan og hvorfor vi alle må bidra til å styre utviklingen i etisk og ansvarlig retning.
Mikrokurs
Bærekraft og lønnsomhet
Hva har bærekraft med lønnsomhet og finansiering å gjøre? Faktisk veldig mye. Lær hvorfor i dette mikrokurset.
Mikrokurs
Har du funnet opp noe? Slik beskytter du det med patent
Hva er en oppfinnelse, og hva kan du ta patent på? Hva bør du tenke på når du skal søke patent – og hvordan går du frem?
.jpg){kind=link}