Helse Bergen HF ønsker å benytte kunstig intelligens (KI) for å etablere et automatisert varslingssystem for pasienter med høy sannsynlighet for reinnleggelse. Varslingssystemet skal hjelpe behandlere med å identifisere pasienter som trenger ekstra oppfølging for å unngå å bli lagt inn på sykehus igjen etter kort tid. Målet med sandkasseprosjektet var å avklare lovligheten ved slik bruk av kunstig intelligens, og å utforske hvordan pasientenes rettigheter kan ivaretas.

Oppsummering av funn

• Lovlighet: Helse Bergen HF har rettslig grunnlag etter personvernforordningen og supplerende rettsgrunnlag i helselovgivningen for å utvikle og bruke kunstig intelligens som beslutningsstøtte, som ledd i helsehjelp til pasienter.
• Åpenhet: Det bør gis generell informasjon om at pasientopplysninger brukes til utvikling av KI-verktøy. I bruksfasen bør det lages et journalnotat som presenterer resultatet på en forståelig måte for både kliniker og pasient.
• Rettferdighet: Skjevheter i enhver algoritme sitt datagrunnlag kan føre til diskriminering og hindre likebehandling av pasienter. For å unngå dette, skal det gjennomføres rutinemessige kvalitetskontroller av algoritmen. Varslingssystemet er et beslutningsstøttesystem, og for å sikre menneskelig kontroll av beslutningsprosessen, må det utarbeides felles retningslinjer for hvordan helsepersonell skal tolke og bruke resultater fra kunstig intelligente verktøy som anvendes i pasientbehandling.

Veien videre

Denne sluttrapporten bidrar til å belyse aktuelle personvernhensyn og risiko ved bruk av KI i klinisk pasientbehandling. Prosjektet har begrenset seg til kunstig intelligens brukt som klinisk beslutningsstøtte. Fullt autonome KI-systemer uten menneskelig innblanding vil kreve videre utredning.

Prosjektet har konkludert med at de samme kvalitetskravene må stilles til KI som til annet utstyr, programmer eller prosedyrer som gir beslutningsstøtte i klinikken, når det gjelder dokumentasjon av effekt og nytteverdi. Ved å oppfylle personvernforordningens krav til informasjon, samtykke og innsyn i egne helsedata, legger man grunnlaget for å utvikle og benytte nye verktøy i klinikken som baserer seg på KI.