Vil dette være en generell strategi for hvilke områder Norge bør bruke AI, hvilke etiske og juridiske problemstillinger det innebærer og hvordan man kan dyrke frem en norsk, nasjonal AI-industri? Vil den ta hensyn til at bruk av AI står overfor ulike problemstillinger i ulike sektorer – at transportsektoren har andre problemstillinger enn helsesesektoren? Vil strategien gjenspeile behovet for gode standarder for deling av data, og at deling av data kommer fellesskapet til gode? Hvilke mekanismer vil etableres for å sørge for innsyn, løpende evaluering og nødvendig revisjon av AI-baserte beslutningsprosesser i det offentlige?
Hvor mye av dette blir besvart i den strategien som blir lagt frem i neste uke?
I en interessant artikkel i digi.no før jul, skriver Inga Strümke at alt hun ønsket seg til jul var en nasjonal strategi for deling av data, og retningslinjer for ansvarlig bruk av AI innenfor helsesektoren.
Hennes poeng er at vi sliter med å utvikle egne løsninger innenfor dette området, fordi lovverket er til hinder for bruk av norske helsedata. I stedet er vi i ferd med å kjøpe inn løsninger fra utlandet eller gi fra oss helsedata frivillig til store internasjonale konsern. Det er uheldig. «Algoritmer trent på asiatiske genomer vil ikke være nyttige for våre sykdomsbilder og livsmønstre. Dette er et dataproblem vi ikke kan kjøpe oss ut av: Enten utvikler vi egne algoritmer på norske data, eller så kommer vi ikke til å kunne tilby våre borgere de beste helseløsningene».
Sammenhengen mellom kunstig intelligens og deling av data
Dette er en interessant problemstilling som har mange sider. I en rapport om Kunstig Intelligens i helsesektoren som Teknologirådet overleverte til Stortinget like før jul, blir flere av disse problemstillingene tatt opp. «Kunstig intelligens er en av de mest lovende teknologiene for å forbedre helsetjenesten fremover, og det forskes mye på feltet. Men uklart regelverk og usikkerhet rundt hva som er lov, gjør at det ikke blir tatt i bruk», sier Tore Tennøe, direktør i Teknologirådet, og bekrefter dermed det Inga tar opp i sin kronikk.
Men Teknologirådet går videre og peker på flere problemstillinger som bruk av kunstig intelligens har for helsesektoren. Dette tangerer også den pågående debatt om hvilken rolle strukturerte data i en pasientjournal har i den totale sammenheng for digitalisering av helsesektoren.
Alt jeg ønsker meg til jul er en plan for norske data
Teknologirådet fastslår at AI her vil ha stor betydning både for å stille mer presise sykdomsdiagnoser, mer individuelt tilpasset behandling og for tidlig behandling og selvhjelp. I denne sammenheng er pasientjournalen og andre registre med strukturerte data viktig, men ikke tilstrekkelig. Det er delingen av de data som produseres i klinikkene og av innbyggerne selv, som vil få en relativt større betydning i tiden fremover, fordi de blir den viktigste kilden for nye algoritmer til bruk i kunstig intelligens.
Pasientjournaler inneholder vesentlig informasjon om den enkelte pasient – til nytte for behandlingen av den enkelte pasient. Kunstig intelligens vil imidlertid kunne innhente og samordne data fra ulike kilder, også fra pasientjournaler. Tilgang til den enkelte pasients journal krever imidlertid samtykke i følge den nye personvernlovgivningen (GDPR). Dette er ikke alltid praktisk mulig (pasienten er ikke i stand til å gi samtykke), eller spesielt hensiktsmessig når det foreligger en akutt situasjon eller når dataene skal brukes til samfunnsnyttige forskningsformål. Regelverket er ikke klart her. Det har f.eks. hindret Sørlandet sykehus i å ta i bruk et system for kunstig intelligens for å hindre alvorlige allergiske reaksjoner under operasjon.
Regjeringen har som strategi å tilgjengeliggjøre offentlige helsedata i «sentraliserte og sikre omgivelser». Teknologirådet peker på at dette kan være en svært sårbar strategi med store negative konsekvenser dersom dataene blir hacket.
Et alternativ som Teknologirådet peker på, er å dele algoritmer og modeller i stedet for dataene. Teknikken kalles distribuert læring (federated learning). Det eksemplet Teknologirådet beskriver, er at «en algoritme sendes for eksempel til CT-bildedatabasene på alle involverte sykehus. Her brukes de lokale CT-bildene til å lære opp hver sin versjon av en modell. Endringene på ett sted deles med de andre, som justerer seg slik at modellene lærer av hverandre. Dataene beholdes med andre ord lokalt, mens det er endringene i modellene som flytter på seg».
Rådet peker på at man kan bruke dataene i pasientjournalene sammen med pasientgenererte data og klinikkdata, for å lære opp og validere algoritmer med helsedata fra egne pasienter. En kan også få nytte av data fra andre sykehus i andre regioner. Men dette krever at en tilrettelegger for kunstig intelligens når sykehusene, fastlegekontorene og kommunale helse- og omsorgstjenester, skal oppgradere og kjøpe journalsystemer. «Dagens planer tar ikke tilstrekkelig høyde for dette», sier Teknologirådet.
Hvis data om norske pasienter og helseforhold skal deles med tredjeparter, bør fellesskapet få en merverdi i form av bedre offentlige helsetjenester, ny næringsutvikling, arbeidsplasser eller skatteinntekter, sier Teknologirådet. Hvor mye skal for eksempel det offentlige betale for tjenester hvor det er tilgangen på offentlige helsedata til private aktører som har gjort det mulig å lage løsningen? Pasientene er også part i saken siden dataene er om og fra dem, så avtaleforholdene er komplekse.
På tide å tenke nytt om digitaliseringen i helsesektoren
Det er heller ikke innlysende hvordan dataene skaper verdier for hvem. Kunstig intelligens har jo den egenskapen at den på egen hånd kan finne sammenhenger som ikke finnes fra før, og at læringen fra ett system kan overføres til et annet. Når det er maskinen som har skapt verdien, hvem skal da betale til hvem for verdien av disse nye dataene?
Direktoratet for e-helse har i en høringsuttalelse sagt seg enig i at «norske helsedata skal forbli i norsk offentlig regi og ikke selges ut som rådata til kommersielle aktører». Som konsekvens av dette foreslås det at forvaltningen av disse dataene bør legges til Direktoratet for e-helse som det myndighetsorgan det er. Dette begrunnes med argumentet om tillitsskapende virksomhet best ivaretas av en offentlig instans.
Alternativet er imidlertid å etablere «datafond» slik man har i Storbritannia. Formålet med et slikt fond er å skape mest mulig samfunnsmessig verdi uten at det går på bekostning av etablerte vedtekter og etiske retningslinjer. Et slikt «datafond» kan inngå avtaler med forskere, utviklere og helseinstitusjoner på vegne av innbyggerne.
Hva er strategi?
En strategi for «kunstig Intelligens» må ikke bli en teknologistrategi. Strategi dreier seg om å oppnå et mål. Målet må være:
- hvordan en kan bevare kontrollen over delingen av offentlige data slik at store internasjonale IKT-aktører ikke kan bruke kunstig intelligens til å utkonkurrere forvaltningen slik at vi får dårligere offentlige tjenester, f.eks. i helsesektoren.
- hvordan kunstig intelligens kan gi grunnlag for næringslivsutvikling for norske bedrifter
- hvordan deling av data og bruk av kunstig intelligens kan komme fellesskapet til gode slik at «rettigheter, verdier og ansvar fordeles rettferdig og likeverdig».
Dataforeningen: – Dagens lover gjør det umulig å gjennomføre Astrups digitaliseringsstrategi
Dette er de sentrale poengene som både Inga Strümke i sin kronikk, og Teknologirådet i sin rapport, tar opp. Dette er en mye større problemstilling enn akkurat å lage en «strategi for kunstig intelligens».
Det blir spennende å se i hvilken grad slike problemstillinger blir behandlet i den «strategi for kunstig intelligens» som lanseres i neste uke. Det skal i det hele tatt bli interessant å se hvor strategisk og ikke teknologifokusert Regjeringens strategi blir.
