Den medisinorienterte nyhetstjenesten Stat skal ha fått tilgang til interne dokumenter hos IBM som omtaler flere tilfeller hvor selskapets teknologi for kunstig intelligens og maskinlæring, Watson, har kommet med utrygge eller feilaktige anbefalinger når systemet har blitt brukt i forbindelse med medisinsk behandling.
Det skal være kunder og medisinske eksperter i selskapet som har skrevet rapportene. IBM har opplyst at Watson har hjulpet kreftleger med å stille mer nøyaktige diagnoser i mange tusen tilfeller. I august i fjor ble systemet brukt som en assistent for kreftleger ved 45 sykehus i ulike land. Dette antallet skal nå ha økt til 230.
Kunne føre til enda mer blødning
I artikkelen til Stat, som kun er tilgjengelig for abonnenter, men siteres av blant annet Gizmodo, trekkes det blant annet fram et tilfelle om en 65 år gammel mannlig kreftpasient med diagnosen lungekreft som så ut til å være rammet av alvorlig blødning. Watson skal da ha anbefalt at mannen burde behandles med både kjemoterapi og antistoffet Bevacizumab.
Men i forsiktighetsreglene for Bevacizumab oppgis det at virkestoffet blant annet kan føre til alvorlig eller fatal blødning (hemoragi), og det bør naturlig nok ikke gis til pasienter som allerede er rammet av alvorlig blødning.
Virkelig pasient?
En talsperson for Memorial Sloan Kettering (MSK) Cancer Center antyder overfor Stat at det nevnte tilfellet ikke berørte en virkelig pasient, men i stedet bare ble utført som en del av testingen av systemet.
Ifølge en separat oppsummering Stat-artikkelen, skal ingen pasienter ha dødd fordi sykehus har benytter Watson for Oncology. Om dette primært skyldes oppmerksomme og faglig dyktige leger, er ikke oppgitt.
Leger hos MSK skal i 2012 samarbeidet med IBMs ingeniører om å trene Watson til å tenke mer som en lege. I dokumentene blir dette samarbeidet kritisert fordi bruk av syntetiske eller hypotetiske pasienttilfeller kan ha medført at leger ved andre sykehus, som benyttet Watson for Oncology, har fått anbefalinger basert på MSK-legenes preferanser, i stedet for en AI-basert tolkning av de faktiske pasientdataene.
Hard kritikk
I dokumentene, som i fjor sommer skal ha blitt presentert av IBMs tidligere, stedfortredende helsesjef, Andrew Norden, siteres blant annet en lege ved Jupiter Hospital i Florida, som til IBM forteller:
«This product is a piece of shit.»
Legen sier videre at systemet ble kjøpt av markedsføringsårsaker og med håp om at det ville nå visjonen.
– I de fleste tilfeller kan vi ikke bruke det, skal legen ha sagt til IBM.
Også i Danmark
Dette er ikke første gang at Watson for Oncology har fått negativ omtale. I fjor høst ble det kjent at forsøk med systemet ved Rigshospitalet i Danmark ble stoppet på grunn av svært høy feilrate. Rundt en tredel av anbefalingene ble omtalt som «helt borti veggene».
– Vi har for eksempel opplevd at Watson har foreslått en behandling med stoffer som pasienten aldri mer skulle ta i sitt liv, fordi det var livsfarlig, sa Leif Panduro Jensen, direktør for Finsenscentret ved Rigshospitalet, den gang.
Til Gizmodo sier en IBM-talsperson at Watson for Oncology er trent til å hjelpe kreftleger med behandlingen av 13 former for kreft, og at systemet har blitt brukt under behandlingen av mer enn 84 000 pasienter.
– Samtidig har vi lært og forbedret Watson Health basert på kontinuerlige tilbakemeldinger fra klienter, nye vitenskapelige bevis og nye kreft- og behandlingsalternativer. Dette inkluderer 11 programvareutgivelser med enda bedre funksjonalitet i løpet av det siste året, inkludert nasjonale retningslinjer for kreft, fra tykktarmkreft til leverkreft, sier talspersonen.
Ikke i Norge: Skuffet over at norsk helsevesen ikke vil ha Watson
