Copilot (NTNU)

Prosjektet skal se på NTNUs robusthet, bruksområder og dataforvaltning. Målet er å finne ut hva som kreves med hensyn til personvern for at NTNU og andre offentlige organisasjoner skal kunne bruke verktøy som Copilot.

– Vi har kalt prosjektet for «pilotere Copilot for Microsoft 365». Det høres skikkelig kjedelig ut, men det er faktisk ganske spennende! sier Heine Skipenes, faggruppeleder for arkitektur og rådgivning i NTNUs IT-avdeling.

Han påpeker en viktig utfordring med Microsofts tilnærming, der verktøy ofte blir aktivert som standard og krever aktiv deaktivering fra organisasjonens side.

– Det er viktig å ha kontroll på hva som skjer, sier Skipenes, som ønsker å sikre at NTNU kan navigere i AI-landskapet uten å kompromittere verken personvern eller integritet. "Og hvis det er sånn at vi ikke har kontroll på de tingene vi kan skru av og på, så kan vi nok ikke skru på dette i det hele tatt."

Se også NTNUs egen side om prosjektet.

Fare for fristelser

Copilot for Microsoft 365 er altså en kunstig intelligent assistent integrert i Microsofts flaggskip av produktivitetsverktøy. Det betyr at i Word, Excel, PowerPoint og Teams vil en liten samtalerobot uoppfordret komme med en rekke forslag og tilbud, basert på at den har full kontroll på hva du gjør i programmene. Det kan for eksempel være forslag til referat fra et møte du nettopp har avsluttet i Teams. 

– En bekymring er at verktøyene blir så lett tilgjengelig, at det blir litt for enkelt til ikke å la det være. Vi har hatt noen skrekkeksempler, uten å gå i detalj på det, med å bruke KI-verktøy til å vurdere studentenes arbeid. Du kikker raskt igjennom, og så får du samtaleroboten til å forklare hvorfor denne besvarelsen fortjener karakteren C. Det kan være kjempebra å bruke for eksempel ChatGPT til å kontrollsjekke om du har tenkt riktig. Men hvis du bruker det utelukkende som grunnlaget for å gjøre en vurdering, da er du ute å sykle, sier Skipenes.

Og Copilot kan i så måte fort oppleves som et konstant tilbud om å bruke en lettrødd sykkel.

Blikk utenfra

Skjønt, det må visst en del mekking til før "sykkelen" er klar. Copilot ble lansert for bedriftsmarkedet i november, desember. Og det Skipenes hører av foreløpige erfaringer, tyder på at det krever mye forarbeid.

– Veldig mange sier «Oj, du må gjøre sjukt mye på baksida, før du kan putte brukerne inn.»

Hva betyr det for dette prosjektet å kunne bli utforska i sandkassa?

– For vår del handler det mye om det å få blikk på ting utenfra, få et breiere perspektiv.

Han peker på det han ser på som en kjempeutfordring i IT-verdenen: at det går for fort. Man tar litt for raske vurderinger for å få verktøyet på plass. Og så blir for eksempel etiske vurderinger en sjekklistebasert tilnærming man bare skal gjennom, uten at det nødvendigvis har reell påvirkning på prosjektet.

– Vi ser at leverandørene stiller ekstremt store krav til brukerne. For eksempel med avtaleverk og retningslinjer du må samtykke til, og så vet du at det er 6000 sider du skulle ha lest gjennom. Vipps har du fått alt ansvar for at ting blir gjort på en ordentlig måte. Her har vi en mellomrolle, sier Skipenes, og sikter til at NTNU, eller en hvilken som helst arbeidsgiver, tar på seg et ansvar for at du som bruker har skjønt hva du er med på, når de tilbyr deg et verktøy.

– Og la oss si det sånn, det er et visst sprik i kompetansefeltet på brukerflata vår. Vi har jo 50 000 mennesker hos oss, og det er fra den ene til den andre ytterkanten, hva gjelder datakompetanse og orden på filene sine. Så det jeg er mest spent på, er når vi kommer på innsida av Copilot'en. Hvordan ser den ut der? Hva er det vi da faktisk har å forholde oss til?