Prosjektet «Aktivitetsdata for vurdering og tilpassing» (AVT) er et forsknings- og utviklingsprosjekt som tar for seg bruk av digital læringsanalyse i skolen. Prosjektet skal utforske muligheter og utfordringer ved å benytte læringsanalyse og kunstig intelligens (KI) for å analysere elevers aktivitetsdata fra ulike digitale læremidler.

Gjennom deltakelse i sandkassen ønsker AVT-prosjektet å utforske de rettslige rammene, i tillegg til rammene for ansvarlighet og etikk, for bruk av læringsanalyse i skolen. Det overordnede målet er å legge til rette for tilpasset undervisning for den enkelte elev, hvor personvernet til elevene ivaretas på best mulig måte. Sandkasseprosjektet har vært inndelt i tre delmål, hvor vi har utforsket rettslig grunnlag, ivaretagelse av elevens personvern gjennom en vurdering av personvernkonsekvenser, og åpenhet.

Konklusjoner

• Rettslig grunnlag: Datatilsynet og AVT-prosjektet har ulike synspunkter på valg av rettslig grunnlag og hvorvidt det supplerende grunnlaget er tilstrekkelig. I AVT-prosjektet har de vurdert behandlingen som en «rettslig forpliktelse», og viser til at det supplerende grunnlaget i opplæringsregelverket underbygger dette. Datatilsynets innspill er at «allmennhetens interesse» synes som det mest passende grunnlaget for behandlingen, og at det supplerende rettsgrunnlaget burde vært sterkere enn det er i dag, men utelukker ikke at «rettslig forpliktelse» kan benyttes.
• Konsekvenser for elevenes personvern: Gjennom dialog med interessenter som alle representerer grupper som vil bli berørt av læringsanalysesystemet på forskjellige måter, var det tre risikoer for elevenes personvern som særlig ble løftet frem. Det gjelder risiko for endret adferd (nedkjølingseffekt), risiko for ukorrekte personopplysninger i systemet, og risiko for at teknologien påfører elevene uønsket stress. I tillegg belyste vi tre andre potensielle risikoer knyttet til henholdsvis særlige kategorier personopplysninger, behandling av opplysninger om tredjeparter og grensedragningen mot et automatisk beslutningssystem.
• Åpenhet: En utfordring for AVT-prosjektet er det store alders- og utviklingsspennet i gruppen som skal benytte læringsanalysesystemet. I sandkassa diskuterte vi hvordan de ved bruk av både språklige og visuelle virkemidler, kan gi informasjon som er enkel nok for de yngste elevene samtidig som de dekker informasjonsbehovet til de eldste elevene og elevenes foresatte. AVT-prosjektet har blant annet vurdert å bygge en «dummy» av læringsanalysesystemet, som lar brukerne selv eksperimentere med ulike variabler. Slik visualisering er ofte egnet til å forklare avansert teknologi på en enkel måte.

Veien videre

Kunnskapsdepartementet jobber for tiden med en ny opplæringslov, som vil være klar tidligst i 2023. Innenfor utdanningssektoren har man derfor nå en unik mulighet til å klargjøre skolenes handlingsrom for å bidra i utvikling av KI-verktøy til bruk i undervisningen.

Sandkasseprosjektet er avsluttet, men skolenes reise innen kunstig intelligens har nettopp begynt. AVT-prosjektet baner vei i et felt som kommer til å bli viktig i fremtiden. Deres bidrag i sandkassen har kastet lys på et fagområde som Datatilsynet ikke har hatt erfaring med tidligere. Mulighetene er enorme, og relevansen av en forsvarlig og etisk tilnærming kunne ikke vært mer tydelig. I AVT-prosjektet tar de ansvaret på alvor, og legger sannsynligvis nå grunnlaget for bedre utdanning av barna våre i tiden som kommer.