Flere tar i bruk kunstig intelligens. Men hva er lov – og hvordan kan det gå galt?
Hva slags praktiske og juridiske konsekvenser kan følge av bruk av kunstig intelligens? Vi spør advokatene Maria Østli og Ida Flaatten.
Kunstig intelligens trekkes gjerne fram som en teknologi som kan spare virksomheter for både hodebry og utgifter, gjennom automatisering og effektivisering.
– Men tar du i bruk kunstig intelligens uten å vite hva du holder på med, er det også mye som kan gå galt. Feil kan bli kostbare og vanskelige å rette opp. Også omdømmemessig kan slike feil få store konsekvenser, sier Maria Østli.
Hun og Ida Flaatten er advokater i Finansforbundet – der de primært jobber med arbeidsrett.
– Da GDPR kom så vi hvor ekstremt ressurskrevende det var for virksomhetene å måtte rydde opp når de ikke hadde hensyntatt personvernregelverket i utgangspunktet, sier Flaatten.
– Det kan nemlig være mer ressurskrevende å rydde opp i etterkant, enn å gjøre ting riktig fra start.
Kunstig intelligens inn i arbeidslivet
– Kunstig intelligens innebærer muligheter, både for arbeidstakere og arbeidsgivere, sier advokatene … før de ikke overraskende legger opp til et «men»:
– Men det er helt nødvendig å vurdere hvilke faktiske, juridiske konsekvenser bruk av denne teknologien kan og vil få i et arbeidsforhold, sier Østli.
Det er nettopp i et slikt lys at Østli og Flaatten – som advokater for arbeidstakere – har fått øynene opp for utfordringene som knytter seg til teknologien, som har blitt mye mer utbredt de siste årene.
Hva er kunstig intelligens (KI)?
Norges nasjonale strategi for kunstig intelligens definerer KI som følger:
«Kunstig intelligente systemer utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data, i den hensikt å oppnå et gitt mål. Enkelte KI-systemer kan også tilpasse seg gjennom å analysere og ta hensyn til hvordan tidligere handlinger har påvirket omgivelsene.»
Bruk av kunstig intelligens i en eller annen form – og da mer spesifikt det som kalles maskinlæring – blir stadig mer utbredt, blant annet innen offentlige tjenester, industri, forbrukertjenester, bank og forsikring.
– Vi ser at forståelse for kunstig intelligens og bruk av kunstig intelligens og algoritmer på arbeidsplassen blir viktig i jobben som arbeidslivsadvokater fremover, sier Flaatten.
I en undersøkelse blant Finansforbundets medlemmer, viste det seg at enkelte var engstelig for teknologien – og da spesielt de i den eldre målgruppen.
– De yngre arbeidstakerne var mer positive, og så kanskje mer av mulighetsrommet. For eksempel ved at de ved bruk av kunstig intelligens kan slippe noen av de kjedelige «samlebåndsoppgavene», sier Flaatten.
Forutsigbare rutineoppgaver er det som er aller enklest å automatisere, enten den involverte teknologien er «intelligent» eller ei. Samtidig er kunstig intelligente systemer nå blitt avanserte nok til i prinsippet å kunne optimalisere eller automatisere nesten hva som helst.
KI-systemene blir for eksempel stadig bedre på å behandle ustrukturerte data – som tekst, bilder, lyd og fysiske omgivelser – og selv kunstnere og illustratører frykter nå for levebrødet sitt.
Rettighetene våre som arbeidstakere er likevel bare ett aspekt ved hvorfor det er viktig å se på de potensielle juridiske konsekvensene av å bruke kunstig intelligent teknologi.
Like viktig er det å være klar over hvorfor og hvordan bruk av KI kan gå galt – der for eksempel problemer enten med datagrunnlaget eller med instruksjonene i programmet gjør at et utfall blir feil. Når teknologien brukes for eksempel i saksbehandling, i ansettelsesprosesser eller evaluering av arbeidstakere, kan dette få dramatiske konsekvenser for dem som berøres.
– Derfor var det viktig for oss å være på ballen og forstå de juridiske aspektene rundt dette, sier Flaatten.
– Viktig med tilsyn
Når kunstig intelligens brukes for eksempel i saksbehandling, er det ikke bare dersom selve beslutningene er automatiserte at det kan gå galt. Det gjelder like fullt hvis en saksbehandler for eksempel lener seg på et forslag gitt av maskinen, og ikke i tilstrekkelig grad er kritisk til hva som ligger bak dette forslaget.
En virksomhet må være åpen både om hvorvidt de bruker KI-systemer, og om hvordan disse i så fall faktisk fungerer, mener Østli.
– Her er det svært viktig med åpenhet, transparens og informasjon – at de det gjelder får en forklaring på avgjørelsene som algoritmene tar. En må kunne forstå hvordan systemet kom frem til et bestemt resultat, sier Flaatten.
Systemene bør dessuten reguleres og være under tilsyn av ulike former for styresett og kontrollorganer. Hvem har kontroll på kvaliteten på dataene og algoritmene, og at resultatene deres blir riktige? Og hvem holder oppsyn med selve bruken av systemene, og ser til at ikke vi mennesker misbruker dem eller stoler ukritisk på resultater som burde vært dobbeltsjekket og kontrollert?
Eksempler på dette kan være offentlige utvalg og tilsyn.
– Det er viktig at jurister, tillitsvalgte og andre har en forståelse for hva teknologien innebærer og problemstillinger som kan oppstå. Dette for å gi dem den påvirkningskraften som trengs når stadig flere virksomheter implementerer slike KI-systemer, sier Flaatten.
Slike roller bør være involverte og ha en stemme både i vurderingene i forkant av eventuelt å ta i bruk et slikt system, og for å holde oppsyn med systemene gjennom deres livssyklus – blant annet for å unngå at enkeltpersoner eller grupper nedprioriteres, misforstås, utelates eller diskrimineres på andre måter av algoritmene.
Kommer flere lover og regler
Det er ikke en egen norsk lov spesifikt for kunstig intelligens, men når teknologien brukes på arbeidsplassen er blant annet arbeidsmiljøloven, likestillings- og diskrimineringsloven og personopplysningsloven relevante tillegg til for eksempel tariffavtaler.
I tillegg er det flere lovgivningsinitiativer på vei fra EU, blant annet den såkalte «Artificial Intelligence Act», eller KI-forordningen på norsk, som nå blir utarbeidet hos EU-lovgiverne. I forslaget er nettopp transparens noe det legges stor vekt på.
– Vi regner med at KI-forordningen, når den eventuelt blir vedtatt, kommer inn i norsk rett gjennom EØS-avtalen, sier Østli.
EUs personvernlov – GDPR – er en del av norsk lov. GDPR oppstiller krav om åpenhet, transparens og informasjon, påpeker advokatene. Dette lovverket kommer til anvendelse der systemene behandler data om identifiserte eller identifiserbare personer. Altså personopplysninger.
– Arbeidsgiver er lovpålagt å ha kontroll på hva slags data de benytter, hvordan de benytter dataene og hvorfor. Hvis ikke, vil de ikke oppfylle kravene i personopplysningsloven og GDPR, sier Flaatten.
I tillegg har arbeidsgiver i de fleste tilfeller forpliktelser knyttet til å involvere og drøfte forhold av vesentlig betydning for arbeidstakerne.
– Innføring av KI-teknologi er et forhold som arbeidsgiver bør drøfte med tillitsvalgte, sier Østli.
– Åpenhet og involvering av ansatte vil være veldig viktig. Både for at arbeidsgiver skal oppfylle lov- og avtaleforpliktelser knyttet til informasjon og drøfting og for å synliggjøre uheldige konsekvenser som bruk av kunstig intelligens kan medføre.
🎧 Lytt til vår podkast
I podkasten «Kunstig intelligens på arbeidsplassen» snakker vi med fire ulike eksperter – blant de advokatene Ida Flaatten og Maria Østli – om hvordan kunstig intelligens fungerer, hvordan det påvirker hvordan vi lever og jobber – og ikke minst hvordan man kan ta i bruk ny teknologi på en etisk og lovlig måte.
I første episode av tre stiller vi ekspertene spørsmålet: Hvorfor skal du bry deg om kunstig intelligens?
Du kan også lytte til episodene på Spotify, podkast-spilleren på din telefon, eller hvor hen du finner dine podkaster.
Direkte og indirekte diskriminering
For å være på trygg juridisk grunn må arbeidsgivere også sikre at de og deres ansatte har tilstrekkelig kompetanse om disse systemene og bruken av disse systemene. Ellers kan en risikere blant annet diskriminering og partiskhet i resultatene.
– Her er vi nok litt naive. Veldig mange av de systemene vi bruker er for eksempel utviklet i USA, som har en helt annen lovgivning, spesielt når det gjelder personvern. Dette er systemer som baserer seg på algoritmer uten at virksomhetene nødvendigvis er klar over hvordan de fungerer, sier Flaatten.
Åpenhet og involvering er derfor viktig for å motvirke uheldige og potensielt lovstridige konsekvenser (som brudd på arbeidsmiljøloven) som bruk av KI kan medføre.
Slike konsekvenser kan oppstå blant annet som følge av at maskinlæringsalgoritmer ikke kan legge til informasjon utover det som allerede finnes i dataene. Er det feil eller mangler i dataene, vil du også få et problematisk resultat. Dessuten må en ha kontroll over selve instruksjonene i algoritmene.
– Når man diskuterer diskriminering, tenker man gjerne på bevisst diskriminering, men ofte er diskriminering ubevisst. Når det gjelder KI er det flere eksempler på at avgjørelsen ble diskriminerende uten at det var tilsiktet, sier Østli.
Derfor måtte Amazon trekke tilbake ansettelses-algoritmen sin
Det kanskje mest kjente eksempelet på diskriminerende algoritmer handler om Amazon, som for noen år siden tok i bruk kunstig intelligens i forbindelse med ansettelse og CV-screening – med data som var basert på historiske suksessansettelser fra en tidligere fase i selskapets historie.
– De glemte å ta høyde for at det historisk sett primært ble ansatt menn – og foretrakk systemet menn fremfor kvinner. Dette var ikke noe Amazon ønsket, og det viser at svakheter ved datagrunnlaget vil kunne få diskriminerende utslag.
Ettersom algoritmen så at tidligere suksessansettelser ofte var menn, ble altså mannlighet i seg selv klassifisert som en positiv egenskap da algoritmen så etter nye kandidater.
Dette handler fremfor alt om kunnskap hos arbeidsgiver, for det er ikke krav om at det var meningen å diskriminere – så lenge det faktisk diskrimineres, påpeker advokatene. De forteller at en her skiller mellom direkte diskriminering og det som kalles indirekte diskriminering. Ingen av delene er i utgangspunktet lov.
– Ved direkte diskriminering er handlingene i seg selv diskriminerende, for eksempel ved at du som kvinne behandles annerledes enn en mann i samme situasjon. Ved indirekte diskriminering har du en tilsynelatende nøytral praksis som likevel får et diskriminerende utslag, sier Østli.
Dersom KI-systemer diskriminerer en arbeidstaker er det arbeidsgiver som står ansvarlig, påpeker advokatene.
Kunstig intelligens i daglig bruk
Også knyttet til bruk av KI i daglige avgjørelser i arbeidshverdagen er det noen problemstillinger som man må være oppmerksom på. For eksempel knyttet til arbeidsgivers plikt til å sørge for et fullt forsvarlig arbeidsmiljø.
– KI er blitt brukt for å oppnå større effektivitet og smidighet i arbeidsprosesser. I denne forbindelse må arbeidsgiver være bevisst sin forpliktelse til å sørge for et forsvarlig arbeidsmiljø, sier Østli.
For eksempel er det relativt utbredt med algoritmiske systemer som måler arbeidsutførelse.
– Typiske eksempler er fra varehus og callsentere, hvor det gjerne er tydelige parametre for hva som er måloppnåelse, hvordan man skal gjøre jobben og være effektiv. Da kan teknologien brukes til å sette konkrete mål, og til å måle graden av utførelse på hvor god du er i jobben din. Teknologien tar ikke nødvendigvis høyde for den belastningen dette utgjør for de ansatte over tid, noe som vil kunne få betydning for arbeidsmiljøet, sier Flaatten.
Problemstillingene knyttet til slike ting gjelder ikke minst i den såkalte plattformøkonomien – altså det å jobbe for digitale arbeidsplattformer som Uber og Foodora. Også her arbeides det med et lovgivningsinitiativ i EU, kalt Plattformdirektivet, som vier et eget kapittel til algoritmestyring
– I forslaget til plattformdirektiv vises det til at digitale plattformer kan bruke algoritmer til å styre arbeidshverdagen – fordele oppgaver, overvåke, evaluere og fatte avgjørelser for de som arbeider for plattformene. Dette er avgjørelser som åpenbart kan ha store konsekvenser, sier Østli.
Hva er greit – og hva er lov?
Oppe i alt dette skal vi ikke glemme at kunstig intelligens åpner for mange muligheter, og mange positive og ønskelige konsekvenser.
Men hvordan balansere det som er mulig med det som er greit – og det som er lov?
– Det beste er jo å tenke best practice, fremfor å balansere på grensen mellom det som er lov og ikke. Vi tror at ansvarlig og etisk bruk av kunstig intelligens kan være et fortrinn i konkurranseøyemed og i kampen om de beste medarbeiderne, sier Flaaten..
– Regulering av kunstig intelligens kommer. Virksomheter som har et bevisst forhold til bruken av disse systemene og behandling av data vil ha et bedre utgangspunkt i møte med nye regler, sier Østli.
For det som er «greit» i dag, men kanskje litt på kanten, kan fort være ulovlig om få år – og da sitter du der.
Ta vårt kurs om kunstig intelligens på arbeidsplassen:
Veiviser
Kunstig intelligens på arbeidsplassen
KI endrer hvordan vi lever og jobber. Lær om mulighetene med teknologien – samt hvordan og hvorfor vi alle må bidra til å styre utviklingen i etisk og ansvarlig retning.
