Datatilsynet og NTNU har sett på hvilke personvernkrav som gjelder og hvilke vurderinger NTNU bør gjøre før Microsofts KI-assistent tas i bruk. Parallelt gjennomførte NTNU et pilotprosjekt for å undersøke om de er klar for å innføre M365 Copilot, samt foreslå et rammeverk for forvaltning, drift, vedlikehold og utvikling. NTNU har offentliggjort deres egen funnrapport. Den gir overordnet kunnskap om hvordan M365 Copilot det fungerer, og gir god innsikt for andre som vurderer å slå på copiloten.

Les NTNUs egen funnrapport

Datatilsynet stiller seg bak NTNUs rapport, men vi anbefaler å gå mer spesifikt til verks i vurderingen av personvernkonsekvenser (DPIA). Hver virksomhet må gjøre sine egne personvernkonsekvensvurderinger, basert på hvilke data de har og hvilke oppgaver de vil bruke M365 Copilot til.

M365 Copilot er en aktiv komponent som gjenfinner og gjenskaper informasjon på måter man tidligere ikke har vært vant til. Det er en utfordring at denne nye teknologiens evne til å formulere godt språk - også på norsk - kan få den til å fremstå menneskelig, som om den kan vurdere og foreta logiske resonnementer.

Det er også viktig å understreke at dette er nybrottsarbeid. Så vidt vi vet har ingen andre tilsynsmyndigheter sett på bruk av M365 Copilot opp mot personvernregelverket. Denne rapporten bør ses på som et første steg i å forstå og vurdere hvorvidt slike verktøy kan tas i bruk på en (forsiktig og stegvis) måte som er i samsvar med personvernregelverket.

Hovedpunkter

1. M365 Copilot forutsetter at virksomhetsdata allerede ligger i Microsofts skyløsning.

   M365 Copilot sitter på toppen av Microsofts M365 skyløsning. Før innføring av M365 Copilot, er det en forutsetning at dere har gjort alle nødvendige sikkerhets- og personvernvurderinger knyttet til selve M365-plattformen. Dere må også ha nødvendige ressurser og kompetanse for å forvalte tjenesteleverandører og skyløsningen på en ansvarlig måte over tid, særlig på grunn av hyppige endringer fra leverandørsiden. Ansvaret for dataene som brukes i copiloten ligger hos virksomhetene som tar verktøyet i bruk.
   
   DFØ har laget en veileder for offentlige virksomheter om anskaffelse av skytjenester, som kan være til hjelp. Se også punkt 4 i NTNUs funnrapport for nærmere informasjon og anbefalinger fra NTNU om forvaltning av systemet.

2. Sørg for orden i eget hus.

   Copiloten vil ha tilgang til alle de samme opplysningene som brukeren av verktøyet har. Det betyr at utfordringer og svakheter i «den digitale grunnmuren», som dårlig tilgangsstyring og kontroll over personopplysninger, vil bli synlige og kraftig forsterket av M365 Copilot. Det er viktig å understreke at Microsoft som tjenesteleverandør også forutsetter i svært høy grad at «alt er i orden» med forvaltning av den underliggende M365-plattformen, for at copiloten skal kunne brukes på en ansvarlig og lovlig måte. God orden i eget hus må altså være på plass først, og ethvert innføringsprosjekt vil trolig kreve grundige (re)vurderinger av egen informasjonsforvaltning. Dette krever innsats og ressurser, men er et kritisk og nødvendig steg ved innføring av ny teknologi.
   
   Digitaliseringsdirektoraret har utarbeidet en veileder om informasjonsforvaltning, og på Datatilsynets nettside finner du informasjon om hva en protokoll over behandlingsaktiviteter må inneholde.
   
   NTNU har selv kommet frem til at de ikke er klar til å innføre M365 Copilot i hele virksomheten ennå, blant annet fordi de vurderer at de ikke har god nok orden i eget hus.

3. Identifiser og begrens hva copiloten skal brukes til.

   Vurder hvilke oppgaver og tilhørende behandling av personopplysninger M365 Copilot skal, og ikke skal, brukes til. Noen oppgaver er dårlig egnet for bruk av generativ KI, for eksempel når det er viktig at svar er riktige og brukeren ikke har kompetanse eller tid til å kontrollere det som genereres. Videre vil bruk av M365 Copilot innenfor f.eks. HR og personalledelse innebære ekstra høy risiko for personvernet. Dette fordi håndtering av tilgang til personopplysninger er krevende å forvalte og kontrollere, eller fordi konsekvensene for enkeltpersoner kan bli svært alvorlige. Oppgaver som involverer særlige kategorier (sensitive) personopplysninger bør også vurderes nøye eller unngås i forbindelse med bruk av M365 Copilot.
   
   Kartlegg og beskriv behandlingsoperasjonene som skjer hvis M365 Copilot brukes til et bestemt formål, altså fra en instruks gis til copiloten til svaret kommer ut. Behandlingsprotokollen er et hensiktsmessig sted å starte, der man går gjennom og vurderer hver behandling for hvert formål. Det gir et godt utgangspunkt for å vurdere hvilke oppgaver dere vil og kan bruke copiloten til.
   
   Dersom M365 Copilot har tilgang til informasjon med (sensitive) personopplysninger, må informasjonen være klassifisert, identifisert og merket, minimum på dokumentnivå. Vi understreker at Microsoft erkjenner at dette er nødvendig for at M365 Copilot kan benyttes på en ansvarlig måte.

4. Vurder det rettslige grunnlaget.

   Når oppgaver og tilhørende behandling av personopplysninger vurderes som «M365 Copilot-kandidater», må behandlingsgrunnlaget sjekkes. For behandlinger dere allerede utfører, må dere vurdere om bruken av M365 Copilot fører til endringer i behandlingen, for eksempel hvilke eller hvem sine personopplysninger som behandles. Hvis det er endringer, må dere vurdere om det eksisterende behandlingsgrunnlaget fortsatt kan brukes, herunder om behandlingen fortsatt er «nødvendig». Hvis svaret er nei, kan M365 Copilot ikke brukes til denne behandlingen.
   
   Behandlinger for nye formål krever at dere indentifiserer et passende behandlingsgrunnlag. Der det er snakk om å gjenbruke personopplysninger til nye formål, som ofte vil være tilfelle, må dere vurdere om den nye behandlingen er forenlig med det opprinnelige formålet.

5. Vurder personvernkonsekvenser.

   Det vil som hovedregel være et krav om å vurdere personvernkonsekvenser (DPIA) ved bruk av generativ KI som behandler personopplysninger. Dette fordi loven fremhever «bruk av ny teknologi» som en særlig viktig faktor, og forståelsen av risiko knyttet til generativ KI er ennå umoden. En DPIA må gjøres per behandling eller sett med lignende behandlinger. Oppgaver som i seg selv ikke krever behandling av personopplysninger, vil med M365 Copilot likevel kunne komme til å gjøre det, fordi copiloten bruker av all informasjon brukeren har tilgang til og kan dermed koble det sammen med personopplysninger.
   
   DPIA-prosessen skal identifisere tekniske og organisatoriske tiltak som kan redusere risikoen til et akseptabelt nivå, og disse må være på plass før eventuell bruk av M365 Copilot. Testing kan være et tiltak for å minimere risiko. Hvis risikoen er for høy også etter at tiltak er prøvd, bør dere trolig ikke bruke M365 Copilot til den aktuelle behandlingen likevel. Alternativt, kontakt Datatilsynet for en forhåndsdrøftelse.

6. Vil bruken være i strid med e-postforskriften?

   M365 Copilot logger alle samhandlinger. Historikken lagres på brukerens personlige område, og er i NTNUs tilfelle tilgjengelig for M365-administratorer. Samlet sett anser vi det som sannsynlig at samhandlingsloggen vil kunne rammes av forbudet mot overvåking av arbeidstakers bruk av elektronisk utstyr. Vi forstår det imidlertid slik at hovedformålet med samhandlingsloggen er å sikre at kvaliteten på tjenesten er slik den skal være. Dette formålet kan falle inn under unntaket for å administrere virksomhetens datanettverk. Hvorvidt det andre unntaket, å «avdekke eller oppklare sikkerhetsbrudd i nettverket», kan være aktuelt, må vurderes konkret opp mot hva som er formålet med samhandlingsloggen.

7. Bruk av språkmodeller krever kompetanse og bevissthet.

   Språkmodeller gir en ny brukeropplevelse for svært mange, med både muligheter og begrensninger som er uavklarte. Det kan være krevende å forstå hvilken informasjon som inngår i underlaget for formuleringer og hva som ikke er med. Det krever kompetanse for å formulere instrukser eller ledetekst (på engelsk, prompts) som gir relevante og gode svar. Det er virksomhetens ansvar at brukere av løsningen har tilstrekkelig kunnskap, bevissthet og opplæring i bruken av M365 Copilot. Denne kompetansen sikrer ikke bare god kvalitet i det som genereres, men også at løsningen brukes på en måte som ivaretar personvernet.

8. Vurder alternative løsninger.

   M365 Copilot kan brukes til svært mye. Det er derfor et omfattende arbeid å sikre at systemet brukes på en ansvarlig og lovlig måte. Noen av copilotens egenskaper kan utfordre formålsbegrensningsprinsippet og dataminimeringsprinsippet. Tiltak som i teorien kan redusere risiko og konsekvenser, kan i praksis være svært krevende å innføre. Derfor er det viktig å vurdere om andre KI-løsninger med lavere personvernrisiko kan oppfylle de konkrete behovene. Dette kan være løsninger som transkriberer lydopptak eller spesialtilpassede dialogroboter og støtteverktøy tilpasset spesielle formål og avgrenset til nøye utvalgte og kvalitetssikrede interne informasjonskilder.

9. Gjør innføringen i små og kontrollerte steg.

   Det er mulig for norske virksomheter å ta i bruk M365 Copilot, men ikke for alle og ikke for alt. Vår tydelige anbefaling er at slike løsninger blir innført kontrollert, i små steg, med utvalgte roller og for egnede behandlinger i virksomheten. Det må også lages strukturerte opplegg for etterkontroll og oppfølging av kvalitet på det løsningen produserer, både gjennom organisatoriske og tekniske tiltak.

Veien videre

NTNU har gjort en imponerende, samfunnsnyttig og omfattende jobb med å skaffe seg kunnskap og bevissthet rundt bruken av språkmodeller generelt og integrerte KI-løsninger som M365 Copilot spesielt. De har valgt å ikke innføre M365 Copilot for hele virksomheten, men heller ta i bruk verktøyet kontrollert i små steg med utvalgte roller først.

M365 Copilot er fortsatt tidlig i utviklingsløpet og mangler kontroll på et granulært nivå, som muligheten til å gjøre lokale og fleksible tilpasninger (f.eks. å slå av tilgang til brukeres e-postkasser, spesifikke slettepolicyer). Ubegrenset tilgang til brukers e-postkasse regnes antagelig av Microsoft som en viktig og sentral funksjon, samtidig som dette kanskje er et av elementene som skaper mest usikkerhet for mange virksomheter.

Datatilsynet forventer at utfordringer som kunder, virksomheter, myndigheter og samfunnet generelt identifiserer i produktet, tas på alvor av produktleverandør. Samtidig setter også løsningen klare krav til virksomheter som ønsker å hente gevinster ved bruk av verktøyet. Forutsetningen om en svært velfungerende informasjonsforvaltning og orden i eget hus kan gjøre veien for å lykkes med slike løsninger krevende, men åpenbart med en positiv oppside langt utover det å ta i bruk en bestemt løsning.