– Det er en milepæl for sandkasseprosjektet at vi nå publiserer den første rapporten, sier Datatilsynets direktør Bjørn Erik Thon. Den regulatoriske sandkassa ble etablert for å hjelpe fram innovasjon av ansvarlig kunstig intelligens, og Thon er trygg på at mange vil ha stor nytte av både denne og de andre rapportene, som vil komme på løpende bånd framover.
Folk flest forbinder kanskje kunstig intelligens og innovasjon med små oppstartsbedrifter eller mektige private aktører, og i mindre grad offentlige institusjoner som NAV.
– Derfor er det ekstra spennende at det er nettopp NAV som kommer først ut av sandkassa. De har et særdeles kompetent og framoverlent KI-miljø, sier seniorrådgiver Dag Mostuen Grytli. Han var Datatilsynets prosjektleder i prosessen, der de tok for seg et KI-verktøy NAV har utviklet for å gjøre oppfølgingen av sykmeldte mer brukervennlig og effektiv.
I sandkassa har Datatilsynet og NAV sammen vurdert lovligheten av verktøyet, i tillegg til å utforske problemstillinger knyttet til rettferdighet og forklarbarhet. Grytli mener NAV med sin deltagelse har gitt et viktig bidrag til å øke forståelsen for hvordan kunstig intelligens kan og bør brukes i offentlig sektor.
Se sluttrapporten fra NAV-prosjektet.
– Hensikten med sandkassa er blant annet å vise at personvern og samfunnsnytte kan gå hånd i hånd, og å avdekke om regelverket er en hindring for innovasjon. Både denne og de kommende sluttrapportene, viser hvor viktig Datatilsynets sandkasse er, slår direktør Thon fast.
De juridiske vurderingene i NAV-prosjektet illustrerer nettopp de utfordringene som oppstår, når ny teknologi må være i tråd med særlover (forvaltningsloven, folketrygdloven, helselovene etc.) utmeislet i en verden uten de problemstillingene teknologien fører med seg. Inntrykket både i dette og andre sandkasseprosjekter, er at flere særlover kan ha godt av en vårpuss, slik at det blir tydeligere hvor grensene går for kunstig intelligens på de forskjellige områdene.
– Det er spennende å se hvilken lærdom Datatilsynet og aktørene som deltar tar med seg fra sandkassa. NAV-prosjektet viser at kunstig intelligens kan bidra til å gjøre offentlige tjenester mer effektive og brukertilpassede, samtidig som personvernet ivaretas. Det er bra at større etater som NAV går foran i utviklingen av personvernvennlige KI-løsninger. Prosjektet har også synliggjort betydningen av digitaliseringsvennlig regelverk. Regjeringen er opptatt av at regelverket gjenspeiler både mulighetene og utfordringene som følger med kunstig intelligens, sier kommunal- og distriktsminister Bjørn Arild Gram.
– Vi ønsker å takke Datatilsynet for nyttige diskusjoner om lovlighet, forklarbarhet og rettferdighet i sandkassa. Det har gjort oss enda tryggere på at vi opptrer ansvarlig på dette området, sier Cathrine Pihl Lyngstad, seksjonssjef i dataseksjonen hos NAV. Hun peker også på at Datatilsynets søkelys på sluttbrukers rettigheter har inspirert NAV til å utvikle enda bedre løsninger for å informere brukerne om hvordan personopplysninger behandles.
– Sammen har vi også funnet svakheter i dagens lovtekst, og vi er glade for at Datatilsynet etterspør et tydeligere lovverk på området. Det vi gi brukere og NAV større trygghet, og derfor har vi også satt regelverksutvikling på dagsordenen, avslutter Lyngstad.
I tillegg til NAV-prosjektet, har sandkassa fullført sandkasseprosesser med Secure Practice, Age Labs og KS. Rapportene fra de prosjektene vil publiseres i løpet av vinteren. Samtidig har tre nye prosjekter startet opp i sandkassa. Etter hvert vil basen av rapporter og vurderinger vokse på seg, til nytte for alle som står i lignende problemstillinger.
– Det er dette som er sandkassemetoden, sier Kari Laumann, programleder for Datatilsynets regulatoriske sandkasse. Ved å hjelpe èn, hjelper vi mange. Ved å få mengdetrening i vurderinger og kreative løsninger gjennom mange nok caser helt i front av utviklinga, får vi kartlagt gråsoner i regelverket. Og vi kan lettere komme med tydelige anbefalinger. Det skal gjøre det enklere for små gründere eller store investorer – eller offentlige institusjoner for den saks skyld – å satse på innovasjon av personvernvennlig kunstig intelligens.
Følg med på det som skjer i sandkassa ved å abonnere på vårt nyhetsbrev, der du får invitasjoner og informasjon om søknadsfrister, møter, webinarer og arrangement som er relevant for alle som er opptatt av ny, ansvarlig kunstig intelligens.