KI og HR: Dette er lovene og reglene du må vite om
Hva bør du egentlig vite om lover og reguleringer om kunstig intelligens som er relevante for HR-arbeidere? Vi spurte en advokat.
Kunstig intelligens og juss er et komplekst område, og dessverre finnes det få klare og enkle svar.
For HR-arbeidere representerer KI muligheter – men også fallgruver. Mange av disse fallgruvene er juridiske.
Her snakker vi med Rune Nordengen fra Advokatfirmaet Bull om hvordan det juridiske landskapet påvirker bruken av kunstig intelligens i HR-sektoren:
Hvilke lover påvirker HR-bransjens bruk av KI?
Bruker man kunstig intelligens i HR-bransjen, finnes det en rekke lover man må forholde seg til, forklarer Nordengen:
– For eksempel gjelder GDPR, arbeidsmiljøloven og diskrimineringsloven uavhengig av om man bruker kunstig intelligens – eller ikke – for å skape resultater eller ta beslutninger.
Han trekker frem et eksempel:
– La oss si du samler inn informasjon om dine medarbeidere i forbindelse med læringsinnhold eller for å sette sammen kompatible team. Du bruker deres alder, CV og interesser for å skreddersy innhold eller identifisere matchende kompetanse.
– Da reguleres dette av GDPR, og du må passe på å ha rettslig behandlingsgrunnlag, sier han.
Eller så kan KI ligge til grunn for avgjørelser som ikke er i henhold til kravene om et forsvarlig arbeidsmiljø – eller diskriminerer på bakgrunn av kjønn, legning, funksjonsnedsettelser, etnisitet eller annet.
Andre lover, som markedsføringsloven og åndsverksloven, kan også være gjeldende.
Hvilke arbeidsprosesser påvirkes av disse lovene?
– Vi har sett eksempler på at KI brukes for å optimalisere rene arbeidsinstrukser, for eksempel ved at ruteplanlegging overlates til KI, sier Nordengen.
I praksis kan dette medføre at det tas automatiske avgjørelser om hvordan de ansatte skal utføre arbeidet sitt. Disse avgjørelsene må være i samsvar med arbeidsmiljøloven og GDPR.
– Selv om KI kan lette arbeidsprosesser, er det viktig å understreke at avgjørelser ikke kan overlates helt til KI-systemer, legger han til, og viser til personvernforordningen:
– Ifølge GDPR artikkel 22 har den registrerte, herunder en arbeidstaker, rett til å unngå å bli underlagt avgjørelser som utelukkende baserer seg på automatisert behandling hvis det har rettsvirkning eller betydelig innvirkning på vedkommende.
La oss snakke om siling av jobbsøknader, overvåking av produktivitet og profilering: Finnes det noen risikomomenter?
– Av siste kjente utgave av den kommende AI Act heter det at systemer som er ment å bli brukt til rekruttering, herunder å sile jobbsøknader eller målrettet annonsering, og systemer som er ment å ta beslutninger om arbeidsforhold eller overvåke ytelse på arbeidsplassen, er ansett som høyrisikosystemer, sier Nordengen.
– I den grad de da overhodet kan settes i produksjon uten å stride mot personopplysningsloven eller arbeidsmiljøloven, legger han til.
Hva med risiko for diskriminering?
En annen utfordring knyttet til bruk av KI og profilering er risikoen for diskriminering.
– Dersom treningsdataene som brukes til å lære KI-algoritmene er skjeve eller inneholder fordommer, kan algoritmene absorbere og forsterke disse fordommene, for eksempel slik at systemet diskriminerer ut i fra etnisitet eller kjønn, sier Nordengen.
Diskrimineringslovgivningen forbyr diskriminering basert på faktorer som kjønn, seksuell orientering, etnisitet, religion, funksjonsevne og alder.
– For å sikre rettferdig og etisk bruk av KI i rekrutteringsprosesser, er det nødvendig å implementere tiltak som adresserer potensielle utfordringer knyttet til dette.
La oss si at en HR-avdeling lager en «skreddersydd chatbot» bygget på GPT-4. Hva bør de tenke på?
Avanserte språkmodeller som GPT-4 reiser juridiske og etiske spørsmål, særlig i en HR-sammenheng:
– Det er avgjørende å sikre at all behandling av data er i overensstemmelse med lovgivningen, som for eksempel GDPR. Man må verifisere at man har lovlig grunnlag for behandlingen av data, informere om hvordan dataene samles inn, lagres, behandles og hvilke formål de brukes til, sier Nordengen.
Kjøper man eksterne tjenester, må fortsatt arbeidsgiver oppfylle krav om innebygd personvern. Oppfordringen fra Nordengen er derfor klar:
– Velg tjenester som er personvernvennlige.
Hva kan en HR-avdeling gjøre for å sikre samsvar med lover og reguleringer for KI?
Et lurt sted å begynne er å utforme retningslinjer for kunstig intelligens.
– Flere lover, deriblant GDPR og arbeidsmiljøloven, krever skriftlig dokumentasjon og at de som påvirkes av teknologien informeres om hvordan den brukes, sier Nordengen, og legger til:
– Ser man bort fra lovens krav, er det også lurt å gi de ansatte klare rammer rundt hva som er greit og ikke. Språkmodeller kan skape tekst som er basert på opphavsrettslig beskyttet materiale, uten at den som bruker dem nødvendigvis er klar over det.
Å ha retningslinjer for god KI-bruk gir en trygghet for ansvarlig ledelse om at virksomheten opererer på solid juridisk grunn, forklarer advokaten:
– I ytterste konsekvens kan nemlig ledelsen holdes ansvarlig for lovstridig bruk av KI, dersom de ikke har regulert bruken godt nok.
Hvilke krav stilles til ny kompetanse med tanke på juss og KI i HR-bransjen?
Nordengen forklarer at det blir viktig med tverrfaglig kompetanse:
– For det første må man kartlegge virksomhetens behov og krav, hvilke muligheter ny teknologi gir og hvilke muligheter og begrensninger som ligger i lovverket.
Han nevner også datasikkerhet- og kontroll – samt prosedyrer for tilgangsstyring som vesentlig:
– Teknologien kan også gi problemer i forhold til forretningshemmeligheter, HR og personvern, for å nevne noe.
Videre kommer også regelverk som gir kunder rett til tilgang til data de laster opp, som Data Act.
– Derfor trenger bedriftene en datastrategi, like mye som de trenger en KI-strategi. Det involverer kunnskap både om egen bransje og organisasjon, teknologi og juss – områder hvor utviklingen går fort, avslutter han.
Introkurs
Hvordan påvirker kunstig intelligens kompetansebehov i arbeidslivet?
Lær hvordan kunstig intelligens påvirker kompetansebehovene i arbeidslivet og hvordan KI kan brukes i opplæring av ansatte.
