KIs «gudfar» slutter i Google: – Kan snart bli smartere enn oss
– Jeg synes ikke de bør oppskalere dette mer før de har forstått hvordan de kan kontrollere det, sier KI-pionér. Les hvorfor i ukens Bits & Bytes.
Kunstig intelligens (KI) er fortsatt den store snakkisen, og det er nesten blitt trendy å snakke om hvor bekymret man er for utviklingen. Næringslivet er bekymret, musikkbransjen er bekymret, Elon Musk er bekymret og fire av ti nordmenn er bekymret.
Da er det kanskje ikke så rart at Norges mest populære bok – som ble revet vekk fra hyllene – handler om nettopp kunstig intelligens.
Fikk du ikke tak i boka til Inga Strümke? Kanskje intervjuet vi gjorde med forskeren kan slukke tørsten?
Det er heller ikke vanskelig å forstå engstelsen, særlig blant hvermannsen som kanskje ikke har inngående kjennskap til teknologien. Men når bekymringsmeldingen kommer fra en som virkelig – og da mener vi virkelig – vet hva det dreier seg om, er det all grunn til å være lutter øre.
– Jeg synes ikke de bør oppskalere dette mer før de har forstått hvordan de kan kontrollere det, sier Geoffrey Hinton til The New York Times, og forteller samtidig at han sier opp stillingen i Google.
75-åringen er kognitiv psykolog og informatiker, og hans forskning på nevrale nettverk og dyp læring har banet vei for KI-systemer som ChatGPT. I 2018 mottok han en av datavitenskapens fremste priser, Turing-prisen.
Hinton er altså en real tungvekter innen kunstig intelligens – det er ikke uten grunn til at han omtales som «KIs gudfar». Til BBC innrømmer han at alderen er en av grunnene til at han sier opp stillingen i Google – men han er også tydelig på at han ønsker å stå friere til å snakke om farene rundt KI-utviklingen.
– Så vidt jeg kan se er ikke chatbotene mer intelligente enn oss for øyeblikket. Men det tror jeg de kan bli snart, sier han til den britiske kringkasteren.
– Akkurat nå har systemer som GPT-4 langt høyere generell kunnskap enn et menneske. Når det gjelder resonneringsevne, er de ikke like gode, men de gjør det på et grunnleggende nivå. Med tanke på utviklingshastigheten, kan vi forvente at systemene vil bli bedre relativt kjapt. Det bør bekymre oss.
Ser ingen enkel løsning
Etter å ha brukt de siste femti årene til å få datamodeller til å lære på samme måte som oss, sier Hinton at han nylig innså at disse gigantiske modellene faktisk er bedre enn menneskehjernen. Selv om han tror at teknologien også kan medføre mye positivt, sier han til The Guardian at vi er nødt til å tenke oss nøye om før utviklingen løper løpsk.
– Grunnen til at jeg ikke er altfor optimistisk, er at jeg ikke kjenner til noen eksempler der noe mer intelligent lar seg kontrollere av mindre intelligente ting.
Men når det gjelder konkrete råd for hvordan vi skal unngå de mest dystopiske fremtidsscenariene, innrømmer «Gudfaren» at selv han kommer til kort.
– Jeg er ikke en beslutningstager, bare en som plutselig har blitt klar over at det er en fare for at noe virkelig ille kan skje. Jeg skulle ønske jeg hadde en fin løsning, som: «Bare slutt å brenne karbon, så går det bra.» Men jeg kan ikke se en enkel løsning som det.
Vil du lese mer om ChatGPT og annen kunstig intelligens? Ta en titt på disse sakene fra tech-uka:
- Amnesty Norges KI-flause går verden rundt (Teknisk Ukeblad)
- Det hvite hus ber Big Tech-sjefer om å beskytte publikum mot KI-risiko (BBC)
- «Slik vil EU tøyle kunstig intelligens» (Shifter)
- GPT-4 kan ikke erstatte streikende manusforfattere, men studioene kommer til å forsøke (Vice)
- KI river Wikipedia i stykker (Vice)
- KI og MR gir evnen til å gjenkjenne hva hjernen hører (Ars Technica)
- Microsoft åpner: Nå kan alle bruke Bings chatbot (Tek.no)
- Kunstig intelligens-funksjoner integreres i Slack (Digi.no)
- ChatGPT tilbake i Italia etter å ha møtt krav fra vakthund (AP)
Bli klokere på ChatGPT med vårt introkurs:
Introkurs
Hva er og hvordan bruke ChatGPT?
Lær det viktigste om ChatGPT – hva er det, hvordan fungerer det og hvilke konsekvenser kan chatboten få.
Pressefriheten trues av desinformasjon, propaganda – og KI:
Passord og hengelås skrotes av Google:
- Google dropper passordet – åpner for «passkeys» (Tek.no)
- Google erstatter hengelås-ikonet i Chrome (The Verge)
… og sjefen sammenlignes med Shrek-skurk:
Sundar Pichai hever gigantlønn, mens flere tusen ansatte får fyken.
TikTok sporet britisk journalist – via kattens konto:
Kinas mørke nett kan være «frihavn» for vestlige trusselaktører:
Batteribesvær for Apple i Storbritannia:
Annonser kan snu strømmemarkedet på hodet:
- Fremtiden til strømming er annonser (The Verge)
LinkedIn går inn i 20-årene … og satser på kunstig intelligens:
Prøv et (eller flere) av våre digitale kurs:
Tjenester
Digitale kurs
Trenger du eller dine ansatte kompetanseheving på teknologi, innovasjon og digitale verktøy? Kursene er helt gratis og utviklet i samarbeid med noen av de tyngste fagmiljøene i norsk næringsliv og akademia.
