Erfaringer fra sandkassen

Sandkassen skal stimulere til personvernvennlig innovasjon og digitalisering, og Datatilsynet samarbeider der med enkeltaktører for å hjelpe dem til å følge regelverket og utvikle løsninger med godt personvern. 

Føderert læring for å avdekke hvitvasking

I prosjektet "Maskinlæring uten datadeling" så Datatilsynet og teknologiselskapet Finterai nærmere på hvordan personvernregelverket skulle tolkes i forbindelse med bruk av føderert læring for antihvitvaskingsformål.

Finterai utviklet maskinlæringsteknologi for å hjelpe banker i kampen mot finansiell kriminalitet. En "utfordring" for bankene var at de ikke hadde mange nok kriminelle transaksjoner til å gjøre gode analyser på hva som faktisk skilte en mistenkelig transaksjon fra mengden. Målet til Finterai var å benytte føderert læring for å kombinere læringen fra flere bankers datasett, men uten at bankene faktisk delte data seg imellom.

En konkret lærdom fra prosjektet var at utformingen av systemarkitekturen for føderert læring kunne ha betydelig innvirkning på personvernet og sikkerheten i løsningen. Veivalg som ville medført å samle og sentralisere bankenes transaksjonsopplysninger på en sentral server, vil potensielt kunne skape en stor angrepsflate og utløse økte krav til tekniske og organisatoriske tiltak. Et viktig tiltak var derfor at Finterai ikke skulle ha tilgang til de individuelle bankenes lokale datasett med transaksjonsopplysninger for å utvikle eller drifte tjenesten. Istedenfor skulle bankene selv ha kontroll over sine datasett.

Et annet tema som ble diskutert i prosjektet, var muligheten for «modellinverteringsangrep». Slike angrep har som mål å rekonstruere data som er benyttet for treningen av løsningen, inkludert persondata. Det er i sum betydelige hindre og kostnader knyttet til denne type angrep for eksterne trusselaktører, også i kontekst av Finterais løsning.

Ettersom føderert læring er en ung teknologi, kan det være flere sårbarheter som ikke enda er avdekket, og det kan derfor være krevende å gjøre presise risikovurderinger.

Les sluttrapporten "Maskinlæring uten datadeling" 

Kantprosessering på for mindre inngripende sikkerhetsovervåking

Sikkerhetsselskapet Doorkeeper har hatt som mål å styrke personvernet i moderne kameraovervåkingssystemer. De ønsket å oppnå dette ved å bruke intelligent videoanalyse til å sladde identifiserende opplysninger – slik som ansikter og menneskeformer – i videostrømmen. Videre ønsket de å sørge for at færre opptak ble lagret sammenlignet med mer tradisjonelle overvåkingssystemer. Dette var derfor tema i sandkasseprosjektet.

Doorkeeper brukte kantprosessering og lokal lagring i løsningen sin, der videostrømmen ble sladdet direkte i kameraet før den ble sendt videre til en ekstern plattform ("video management system"). Mange av personopplysningene ville slik kun bli behandlet i selve kamerahuset. Opptak med personopplysninger ville bare bli sendt til den eksterne plattformen hvis en forhåndsdefinert hendelse ble detektert. I tillegg ble opptak midlertidig lagret bare i kameraet ("cache"), men disse skulle bli slettet etter et forhåndsbestemt tidsintervall (for eksempel fem minutter).

For Doorkeeper var det blant annet viktig å sørge for at sikkerheten fulgte den tekniske utviklingen, og at eventuelle sårbarheter ble adressert fortløpende. Doorkeeper måtte også sikre den fysiske innretningen av løsningen, inkludert kommunikasjonen mellom kameraet og den eksterne plattformen.

Det var også et poeng at behandlingen av personopplysninger kunne bli konfigurert til å være betydelig begrenset, noe som kunne påvirke vurderingen av det rettslige grunnlaget for overvåkingen. I situasjoner der det rettslige grunnlaget var basert på en berettiget interesse vil det at kameraovervåkingen er mindre inngripende kunne påvirke nødvendighetsvurderingen.

Les sluttrapporten "Intelligent kameraovervåking med personvern i fokus"