Rettar ved automatiserte avgjerder

Eit dataprogram eller ein kunstig intelligens kan ikkje utan vidare ta store og viktige avgjerder om deg. Det å ta slike avgjerder vert kalla "automatiserte individuelle avgjerder", og det er som hovudregel ikkje lov.

Illustrasjonsbilde av automatiserte avgjerder

Personvernforordninga forbyr automatiserte, individuelle avgjerder når dei både:

er heilautomatiske (ei avgjerd er heilautomatisk når eit menneske ikkje har reell innverknad på ho).
har rettsverknad for deg eller i tilsvarande grad har innverknad på deg.

Artikkel 22

1. "Den registrerte skal ha rett til ikke å være gjenstand for en avgjørelse som utelukkende er basert på automatisert behandling, herunder profilering, som har rettsvirkning for eller på tilsvarende måte i betydelig grad påvirker vedkommende." (vår utheving)

Det er altså store og viktige automatiske avgjerder som ikkje er lov etter artikkel 22 i personvernforordninga.

Døme på automatiske avgjerder

Eit dataprogram til offentlege styresmakter avgjer om du skal få ei trygdeyting.
I passkontrollen får du melding om at dataprogrammet synest du utgjer ein stor risiko for rikets tryggleik, og du vert nekta åtgang til landet.
Når du søkjer om banklån på nett, avgjer nettstaden lånesøknaden din der og då.

Merk

Persontilpassa marknadsføring som inneber ei heilautomatisk avgjerd om å vise deg ein viss reklame, vil normalt ikkje falle inn under forbodet i artikkel 22. Årsaka er at slike avgjerder vanlegvis ikkje har stor nok innverknad på deg. Det finst likevel nokre døme der marknadsføringa kan ha så stor innverknad på den einskilde at det vil vere forbode likevel:

Reklamen speler på veikskap hos den einskilde. Eit typisk døme er viss speleavhengige med vilje får reklame for spel.
Reklamen er med vilje retta mot sårbare personar.

Når er ei automatisk avgjerd lov?

Sjølv om automatisert avgjerder som hovudregel ikkje er lov, finst det unnatak. Automatiske avgjerder vil kunne vere lov dersom:

det er naudsynt for å inngå eller gjennomføre ein avtale.
det finst lovheimel for å ta automatiserte individuelle avgjerder, og den aktuelle lova sikrar rettane og interessene til den einskilde på ein tilfredsstillande måte.
du har gitt eksplisitt samtykke til at avgjerda blir teke heilautomatisert.

Merk at dersom avgjerda skal baserast på særlege kategoriar av personopplysningar, er reglane strengare.

Rettane dine ved automatiske avgjerder

I tilfelle 1 og 3 skal verksemda ha særlege tiltak for å trygge rettane og interessene dine. Du har uansett rett til:

å seie meininga di
å seie imot avgjerda
å krevje at eit menneske går gjennom avgjerda

Verksemda skal gje deg informasjon om at ho tek automatiske individuelle avgjerder, kva for logikk som ligg bak og kva for følgjer det kan ha for deg. Du kan òg be om ein overordna forklaring av avgjerda som er teken om deg.

Pliktene til verksemda

Dersom ei verksemd skal ta automatiserte individuelle avgjerder, er det viktig å ta omsyn til personvernprinsippa og innbygd personvern. Relevante tiltak kan til dømes vere:

tekniske og organisatoriske tiltak for å oppdage feilaktige personopplysningar og for å sjå til at opplysningane er oppdatere
test av systema og gjennomgang av algoritmane for å sjå til at handsaminga er rettferdig og ikkje diskriminerande og at algoritmane ikkje valdar urimelege resultat

Det er laga felleseuropeisk rettleiing om automatiserte individuelle avgjerder (ec.europa.eu). Rettleiinga er særleg skriven for verksemder.