Morten Karlsrud i Lenovo har helt rett når han skriver at kunstig intelligens kan redde liv. Algoritmer fatter allerede beslutninger som påvirker menneskers liv og helse, og får stadig større påvirkning i samfunnet. Det haster derfor å få på plass et etisk rammeverk og gode rutiner for åpenhet og kontroll.
Kunstig intelligens kommer til å bli svært viktig for helse- og omsorgssektoren. Mulighetsrommet strekker seg fra behandling til klinisk forskning og utvikling av nye legemidler – noe som vil føre til reduserte kostnader og et bedre, rikere pasienttilbud.
Livreddende
WHO estimerer at 1 av 10 pasienter får infeksjon når de ligger på sykehus. I Europa dør 37.000 mennesker hvert år etter å ha fått en alvorlig sykehusinfeksjon. En av våre kunder, Region Syddanmark, bruker kunstig intelligens for å øke pasientsikkerheten og redusere sykehusinfeksjoner. Med hjelp av vår teknologi har de blitt verdens første til å implementere et komplett system for overvåkning av infeksjoner, noe som de forventer skal redusere dem med en tredjedel.
Solide data gir gode beslutninger
Kunstig intelligens gir enormt med muligheter, men det er helt avgjørende at vi har tillit til dataene og hvordan maskinene behandler dem.
Intensjonen er å øke effektiviteten og sikre objektiv behandling fri for menneskelige feil. Men kunstig intelligens blir ikke bedre enn dataene den tar utgangspunkt i. Vi må derfor forstå og kvalitetssikre dataene og teknikkene vi benytter. Gjøres ikke dette godt nok vil algoritmen kunne fatte feil beslutninger. Algoritmer kan fatte en million beslutninger per minutt. Hvis dette ikke er gjort riktig, får vi et stort problem.
Løpende kontroll
Alle som benytter algoritmer, må fortløpende evaluere resultatene. Algoritmer må revideres, datakilder og analytiske verktøy må kvalitetssjekkes og måten resultatene tolkes på må kontrolleres. God dokumentasjon på dette arbeidet og bruk av såkalte «audit trails», som tydelig viser hvem som gjør hvilke endringer, er viktig.
En stor utfordring med kunstig intelligens er at man ikke helt vet hvordan beslutningene blir gjort. Denne såkalte «black box»-problematikken er viktig å ta inn over seg.
Åpenhet og etikk
Det er viktig at selskaper som benytter algoritmer vektlegger åpenhet og forklarer hvordan algoritmene fungerer. Gjennom de nye GDPR-reglene har hvert enkelt selskap ansvar for å forklare hvordan de bruker kunstig intelligens. Dette er ikke bare viktig ut fra et etisk og regulatorisk ståsted, det er viktig for å bygge tillit og troverdighet.
Det at regjeringen nå sammen med bransjen utarbeider en helhetlig nasjonal strategi for kunstig intelligens er svært positivt. Det er viktig å ikke bare se på mulighetene kunstig intelligens gir, men også å belyse de etiske dilemmaene ved at maskiner fatter beslutninger som påvirker vår helse og våre liv.
Mulighetsrommet er stort og kunstig intelligens vil utvilsomt være avgjørende i årene som kommer. En lege som motsetter seg bruk av kunstig intelligens og data vil kunne utgjøre en trussel for pasienten, mens kunstig intelligens uten etiske retningslinjer og menneskelig touch vil kunne gjøre det samme.
Menneske og maskin vil sammen kunne redde mange liv.
