Helsedirektoratet har to pågående prosjekter, som begge utforsker bruk av KI og har sammenfallende problemstillinger. Prosjektene sikter mot barn, ungdom og deres familiemedlemmer, og begge løsningene vil gi svar og informasjon til brukere ved hjelp av KI. Det vil kunne omfatte store mengder data med personopplysninger fra brukerne, og reiser flere aktuelle spørsmål for utforsking i sandkassen.
Det ene prosjektet er et forsøk på å raskt tilby gode faglige svar til barn om alt fra psykisk til seksuell helse. De har utviklet en testversjon av assistenten HelseSvar, som er en chatbot bygget på ChatGPT og svarer basert på en base av utvalgte fagtekster. Prosjektet reiser problemstillinger rundt anonymitet og spesielle hensyn ved målgruppen.
Det andre prosjektet er rettet mot foresatte til alvorlig syke barn, samt tjenesteytere som er i kontakt med dem. Målet er å minske tiden de bruker på å søke etter informasjon om relevante tjenester og tilbud. I dag oppgir familiene å bruke i snitt 19 timer i uka på å søke etter og koordinere tjenester for sine barn. Prosjektet vil utvikle en informasjonsassistent, som forenkler innsamling og presentasjon av relevant informasjon fra en rekke offentlige kilder. Assistenten skal klare å tilpasse språket etter kompleksiteten i spørsmålet, slik at for eksempel leger får mer avanserte svar enn ungdom.
Sandkasseprosjektet vil ta for seg hvordan slike assistenter kan sikre anonymitet for brukerne. Og - dersom man ikke klarer å garantere anonymitet - hvordan slike verktøy kan ivareta sårbare grupper, slik som mindreårige eller syke pasienter. Om sandkasseprosessen gir rom for det, vil de også se på hvordan slike verktøy kan sikre ønsket likebehandling.
Helsedirektoratets prosjektleder Adélie Dorseuil er glad for at søknaden slo an hos opptakskomiteen, og at de nå er plukket ut til å være med i sandkassen.
– Det er fint å kunne ha tett dialog og mulighet til å utforske et nytt område sammen med Datatilsynet. Det gir oss en ekstra trygghet på at vi kan ta i bruk innovative tjenester på en god og etisk forsvarlig måte. Det finnes nemlig ikke så mange eksempler, noe særlig materiell eller praksis fra lignende prosjekter å støtte seg på. Vi setter pris på å kunne utforske problemstillinger sammen på et tidlig tidspunkt og opplever at sandkassen legger til rette for utforsking og endringer underveis.
Hva er dere mest spent på i forkant av prosessen?
– Det er første gang Helsedirektoratet er med i sandkassen, så vi er spente på hva det innebærer og om vi klarer å lande noen konklusjoner på problemstillingene. Vi tror også at det vi skal utforske er relevant for andre aktører, så det blir spennende å se hvor overførbart dette blir.
Dorseuil har ellers med seg Helsedirektoratets personvernombud Caroline Ringstad Schultz (til venstre) og ETI-prosjektleder Jonas Rusten Wang inn i sandkasseprosjektet.
Følg med på det som skjer i sandkassa ved å abonnere på vårt nyhetsbrev, der du får invitasjoner og informasjon om søknadsfrister, møter, webinarer og arrangement som er relevant for alle som er opptatt av ny, ansvarlig kunstig intelligens.