Innen 2025 skal 80 prosent av offentlig sektor bruke kunstig intelligens. Hva betyr det for din mulighet til å beholde kontrollen over egne personopplysninger og til å ettergå beslutninger som påvirker deg og ditt liv?
Det sies at kunnskap er makt, men uvitenhet kan føre til avmakt. En viktig del av den politiske kampen i moderne tid har handlet om maktforholdet mellom staten og deg som borger. Staten skal sikre tryggheten og velferden din, men den har også makt til å ta beslutninger som påvirker deg. Disse vedtakene kan ha stor betydning for livet ditt.
IKT endret i sin tid hvordan du forholder deg til offentlige tjenester. Siden den gang har vi sett at stadig flere oppgaver og avgjørelser flyttes fra menneske til maskin. Men hvordan påvirker det deg når staten tar i bruk kunstig intelligens (KI) i stor skala?
- Åpenhet og informasjon er essensielt for at innbyggerne skal forstå, mene noe om, og kunne påvirke hvordan dataene deres brukes, sier juridisk seniorrådgiver Jan Henrik Nielsen.
Han har vært med på flere prosjekter i Datatilsynets regulatoriske sandkasse. Her jobber de blant annet for å sikre at nye KI-løsninger ivaretar personvernet ditt og rettighetene dine på en trygg og forsvarlig måte.
Les mer om serien og lytt til episoden lenger ned i artikkelen.
Regjeringen har store ambisjoner om å utnytte mulighetene som ligger i KI (regjeringen.no). Jan Henrik Nielsen mener at vi så langt har sett de mest modne KI-prosjektene innen helsesektoren. Han nevner eksempler fra praktisk bruk av KI i offentlig sektor, samt utviklingen av løsninger i Sandkasseprosjekter som Ahus og Prevbot. I dag brukes KI først og fremst som beslutningsstøtte, mens helautomatiserte beslutninger uten menneskelig involvering fortsatt er sjeldne.
- I offentlig virksomhet finnes det flere mekanismer som skal sikre riktige vedtak. Som regel vil en saksbehandler forberede saken, en leder kvalitetssikre den, og det finnes klageinstanser helt opp til menneskerettighetsdomstolen.
Han understreker at KI ennå ikke er god nok til å operere uten rammer, og at teknologien må omgis av tilsvarende sikkerhetsmekanismer som menneskelig saksbehandling for å minimere feil og bygge tillit.
– Vi har lag på lag med sikkerhetsmekanismer i det virkelige liv, men forventer ofte at teknologien skal gjøre alt riktig på første forsøk. Det er en utfordring, sier Nielsen.
Årets personvernundersøkelse viser at vi har stor tillit til at offentlige myndigheter som Skatteetaten, Politiet og helsevesenet behandler personopplysningene våre på en trygg måte. Samtidig mener mange at KI utfordrer personvernet ved å samle inn for mye informasjon og bruke data på måter vi ikke har kontroll over eller nødvendigvis er enige i.
I episoden oppfordrer Jan Henrik Nielsen deg til å ta kontakt, be om forklaringer og bruke rettighetene dine overfor offentlige myndigheter.
- Ved automatiserte beslutninger kan du be om en vurdering av et menneske. I dag anser vi det som en viktig sikkerhetsmekanisme, men kanskje vil vi om 20-30 år kreve at det skal være en maskin som tar avgjørelsene våre, spør han.
KI kan også gi deg større makt i møte med det offentlige ved å styrke muligheten din til å utfordre beslutninger og vedtak. Teknologiens demokratiserende effekt kan således være et viktig steg mot større ansvarlighet og rettssikkerhet i offentlig forvaltning.
- KI har potensial til å utjevne maktforholdene mellom enkeltindivider og staten, ved å gi borgerne tilgang til verktøy de tidligere ikke hadde, sier Nielsen.
Programleder er Helle Jackobsen.
Hvordan kan du sikre deg mot feilaktige avgjørelser om skatt eller helsetjenester? Er det mulig å redusere sporene du legger igjen på nettet? Og hva kan du gjøre for å beskytte deg mot uforholdsmessig overvåking på jobben?
I dag vet både staten, bedrifter og arbeidsgiveren din mer om deg enn noensinne. De bruker stadig nye metoder for å ta beslutninger som påvirker deg og ditt liv. Som om ikke det var nok, vet også Datatilsynet en god del om deg: gjennom Personvernundersøkelsen 2024 har vi fått innsikt i hva folk tenker og opplever rundt personvern. Mange føler at de har lite oversikt og kontroll over sine egne opplysninger. Informasjonsasymmetrien virker komplett.
Men ikke vær bekymret! I denne podkastserien vil vi hjelpe deg å få litt bedre kontroll.
I Datatilsynet jobber vi for å beskytte personvernet ditt ved å gjøre det enklere for deg å kjenne rettighetene dine og bruke dem. Ved å ta for oss dine roller som forbruker, arbeidstaker og mottaker av offentlige tjenester – tre klassiske linjer i den politiske striden rundt personvern – skal vi forsøke å hjelpe deg på vei gjennom å:
Hør episoden på Acast.com. Du kan også høre den på apper slik som for eksempel Acast-appen, Spotify, iTunes, Google podcast og i Castbox.
Makt og avmakt - Hvordan beskytte dataene dine i møte med statlig intelligens? (.mp3).