Oppsummering av episoden
(Innhaldet i episoden er transkribert og oppsummert av KI-verktøy.)
Podkastepisoden "Smart assistent på vent" handlar om NTNUs pilotprosjekt der dei testa Microsoft sitt kunstige intelligensverktøy, Copilot M365. Prosjektet har vore med i Datatilsynet si regulatoriske sandkasse, der fokuset var på personvern og korleis teknologien kan påverke både brukarar og arbeidsmetodar. Episoden tek for seg ulike erfaringar og funn etter testinga, med både positive og negative sider ved bruken av verktøyet.
Opptaka til episoden er tekne i samband med eit fagseminar, der NTNU presenterte funn og ein rapport frå testinga. Seinare vil det kome ein sluttrapport frå sjølve sandkasseprosjektet, som er meir spissa på dei personvernrelaterte sidene av å skulle ta i bruk Copilot.
I episoden blir det forklart korleis verktøyet Copilot, som er integrert i Microsoft 365, kan assistere brukarar ved å analysere data og foreslå handlingar. Dette kan til dømes vere ein samtalerobot som i Office-program som Word, Excel og PowerPoint analyserer filer og gir anbefalingar. Dette opnar for nye moglegheiter, men også etiske og sikkerheitsmessige utfordringar, spesielt knytt til korleis slike verktøy kan ta avgjersler på vegner av brukaren.
Presenterer åtte funn
Eitt av hovudfunna var at Copilot fungerer best når brukaren allereie er kjend med innhaldet den assisterer med, til dømes ved å oppsummere kjende rapportar. Men episoden belyser også farane ved å stole på Copilot i situasjonar der ein ikkje har nok kunnskap om emnet, sidan det er vanskeleg å vurdere kvar Copiloten hentar informasjonen frå, korfor akkurat derifrå, og kor nøyaktig den er.
Eit viktig aspekt som blir diskutert er korleis Copilot kan påverke offentlege styresmakter og behandlinga av personopplysningar. Teknologien har potensial til å handsame store mengder data på måtar som ikkje nødvendigvis er transparente eller sikre. Dette skaper uro knytt til kontrollen over verktøyet og korleis det kan brukast til dømes for å vurdere tilsette sine prestasjonar eller å ta avgjersler basert på informasjon den genererer.
Det blir også nemnt at Copilot er i ein tidleg utviklingsfase, og det er mange teknologiske manglar og feil som testpanelet støyta på. Til dømes var det utfordringar med språkstøtte og med å få verktøyet til å fungere optimalt i forhold til å aksessere dokument med ulike tilgangsnivå. Dette viser at teknologien framleis har eit stykke å gå før den kan bli tatt i brei bruk i akademia og andre sektorar. Samtidig har prosjektet opplevd at feil blir retta og funksjonalitet kjem på plass i eit rasande tempo.
Verktøyet påverkar kulturen
Ein annan diskusjon i episoden er korleis slike verktøy som Copilot kan endre organisasjonar. Implementeringa av teknologi som Copilot må skje parallelt med organisatoriske endringar, då den kan ha stor påverknad på arbeidskulturen. Til dømes kan det endre korleis tilsette opplever si eiga innsats, når eit verktøy analyserer og oppsummerer deira kommunikasjon på møter.
Til slutt blir det reflektert over den regulatoriske sida ved teknologien. Sjølv om Copilot opnar for store moglegheiter, blir det understreka at ein har både ansvar og plikter for å sikre personvernet ved implementering og bruk av slike verktøy. Teknologien er i stadig utvikling, og det er viktig å ha klare retningslinjer og strategiar for korleis den skal brukast på ein etisk og trygg måte.