Denne artikkelen er levert av Titan.uio.no, en nettavis utgitt av Universitetet i Oslo (UiO).
Kunstig intelligens er på full fart inn i helsevesenet. Det brukes til å kjenne igjen bilder av for eksempel føflekker, øyeepler eller kreftsvulster.
Dette gjør de gjerne bedre og raskere enn det legene klarer. De har lært det selv ved å trene seg på tusenvis av bilder som viser friske og ikke-friske tilfeller av for eksempel føflekker. Dataprogrammene er bygget opp som såkalte nevrale nettverk, inspirert av hvordan hjernen vår fungerer.
Strenge krav
Kan Chat GPT bli din nye personlige trener?
Det er strenge krav for å få godkjenning til å bruke kunstig intelligens til bildegjenkjenning, for det er også mye som kan gå galt. Det kan du lese mer om i denne artikkelen: Når skal kunstig intelligens bli gunstig intelligens?
Likevel er gjenkjenning av bilder bare barnemat sammenlignet med det Vegard Antun forsker på. Matematikeren sjekker nemlig hvor god en kunstig intelligens er til å lage selve bildene – det som kalles bilderekonstruksjon.
Rekonstruksjon av bilder ligger til grunn for blant annet MR- og CT-undersøkelser.
En MR- eller CT-maskin tar massevis av enkeltbilder som til slutt settes sammen til det bildet legene vurderer. Nå har kunstig intelligens fått prøve seg på denne oppgaven – å rekonstruere det endelig bildet fra dette puslespillet av enkeltbilder – for å se om de klarer det like bra som dagens metoder.
– Dette er en mye mer kompleks oppgave enn å avgjøre om et bilde er en katt eller ikke, eller om det er det en svulst eller ikke, sier Antun, som holder på med en doktorgrad ved Universitetet i Oslo.
AI kan bli bedre
Jo lenger du ligger i skanneren, jo bedre bilde får du. Men det tar selvfølgelig lenger tid. Og det er særlig her mange håper kunstige intelligens kan bli bedre enn dagens metoder.
– Det som har skapt entusiasmen rundt kunstig intelligens på dette feltet, er at du skal klare dette raskere. Du skal få mer nøyaktige bilder på kortere tid, sier Antun til Titan.uio.no.
Men tid er ikke alt. Aller viktigst er det å få et best mulig bilde. Det finnes det gode metoder for i dag.
– Det finnes stabile metoder som er basert på matematisk analyse, sier Antun.
Støy
Nå blir det enklere å kode for forskere som jobber med biologiske data
Dersom kunstig intelligens skal ha noe for seg på dette feltet, må bildene de rekonstruerer være minst like stabile og minst like nøyaktige.
Antun har undersøkt hvordan metodene fungerer når han legger på litt støy som kan forvirre den kunstige intelligensen. Klarer de likevel å rekonstruere det de skal?
– Vi utviklet en ustabilitetstest og fikk testet flere nevrale nettverk ordentlig for stabilitet, forteller Antun.
Resultatet var ikke helt overbevisende. De fant nemlig tre typer ustabilitet.
– Disse algoritmene mangler stabiliteten de trenger, sier professor Anders Hansen, som også har vært med på å gjennomføre studien.
Skaper annet bilde
For eksempel viste det seg at hvis man legger inn en knøttliten forstyrrelse på bildet, så rekonstruerer den kunstige intelligensen et helt annet bilde.
– Den minste forstyrrelse, som for eksempel kan være forårsaket av at en pasient beveger seg, kan gi et veldig annet resultat hvis du bruker kunstig intelligens og dyp læring for å rekonstruere medisinske bilder, sier Hansen i en pressemelding fra University of Cambridge.
– Når man plutselig kan få inn komponenter som ikke skulle vært der, blir det problematisk. Det er ganske skremmende, sier Antun.
En liten feil kan få store konsekvenser, og dessuten vet man ikke når man har en feil.
– Du risikerer å få feil diagnose hvis du rekonstruerer feil bilde, sier Antun.
Absurde bilder
IT-sikkerhetsekspert: – KI-revolusjonen har ikke skjedd ennå, den har akkurat begynt
De opplevde også få ut helt absurde bilder, bilder som var helt ødelagt.
– Men det er ikke så problematisk, for en lege som ser at bildet er helt ugjenkjennelig, vil gjennomføre en ny skanning.
– Hvis det er en kunstig intelligens som rekonstruerer bilder og deretter en kunstig intelligens som skal klassifisere de samme bildene, så får du en dobbel ustabilitet, sier Antun.
En annen feil de kunstig intelligensene kunne gjøre, var å vaske ut detaljer.
– Du kan se for deg at det nevrale nettverket ikke er vant til å se en svulst i den delen av hjernen, og da vasker den den bare ut.
Motsatte av hva de ønsket
Selv om den altså er der.
Den tredje formen for ustabilitet overrasket forskerne. For man vil jo tro at lengre tid i skanneren gir bedre bilder. Slik var det ikke.
– Slik vil det være med dagens standardmetoder, men med den kunstige intelligensen får du faktisk dårligere bilder. Du kan bruke mer tid i skanneren og få dårligere bilder, sier Antun.
Altså det helt motsatte av det du ønsket deg.
Antun tror det er fordi de er trent i ett bestemt oppsett, for eksempel en fem minutter lang skanning, og derfor ikke takler et annet oppsett, som det vil være hvis du skanner i seks minutter.
Fundamentale grenser
IKT-Norge ut mot Støre: – Det mangler tydelig lederforankring
Sammen med kollegaene sine har Antun påpekt disse problemene i en artikkel i det vitenskapelige tidsskriftet PNAS. I doktorgraden sin, som straks er ferdig, kommer Antun med en forklaring.
– Det viser seg at det er noen fundamentale grenser for hva du kan få til. Hvis du skal være veldig nøyaktig, vil du bli mer ustabil. Det er en balanse mellom nøyaktighet og stabilitet, sier han.
– Vi har vist matematisk at det er en pris å betale for disse ustabilitetene, sier Hansen.
Matematikerne er ikke redd for å oppfattes som gledesdrepere mens verden rundt roper begeistret om kunstig intelligens, nevrale nettverk og dyp læring.
Forskerne fokuserer nå på å finne grensene for hva som kan gjøres med kunstig intelligens-teknikker. Først når disse grensene er kjent, er det mulig å forstå hvilke problemer de er i stand til å løse.
– Disse teknikkene vil aldri oppdage sine egne begrensninger. Slike begrensninger kan bare vises matematisk, sier Hansen.
- Den vitenskapelige artikkelen:
Vegard Antun, Anders C. Hansen mfl: On instabilities of deep learning in image reconstruction and the potential costs of AI. PNAS, 2020. - Doktorgrad:
Vegard Antun: Stability and accuracy in compressive sensing and deep learning, Matematisk institutt, Universitetet i Oslo, 20200.
