Fenomenet «ukjente kjente», det kjente vi ikke ser, er blitt en voksende utfordring i en verden drevet av teknologi. Kan kunstig intelligens (KI) være løsningen, eller vil den forsterke problemet?
«Ukjente kjente» handler om informasjon eller kunnskap som vi egentlig vet om, men som vi ikke er bevisst på – eller glemmer. Det er som å ha en skattekiste med verdifull informasjon som vi ikke bruker.
I en verden der vi har tilgang til mer informasjon enn noen gang før, kan det virke merkelig at vi overser kjent kunnskap. Men nettopp fordi vi blir bombardert med data, kan det være vanskelig å skille mellom hva som er relevant og hva som ikke er det. Derfor overser vi ofte informasjon vi allerede har når vi tar beslutninger.
Dette gjør «ukjente kjente» til et aktuelt fenomen, spesielt innenfor områder som krever raske og informerte beslutninger.
Konsekvenser av «ukjente kjente»
Når vi overser kjent informasjon, kan det få alvorlige konsekvenser både for enkeltpersoner og for samfunnet.
I forbindelse med Nav-skandalen i 2019 ble mange trygdemottakere straffet urettmessig fordi viktig informasjon om EØS-regelverket ble oversett. Resultatet var fengselsdommer og store økonomiske belastninger for mange. I tillegg ble tilliten til Nav og rettssystemet kraftig svekket.
I forbindelse med Bybanen i Bergen er viktig informasjon flere ganger utelatt i forbindelse med prosjektplanleggingen. Det har ført til store forsinkelser og kostnadsoverskridelser, som igjen har svekket tilliten til de ansvarlige aktørene.
Begge sakene viser hvordan ignorering av kjent informasjon kan føre til feil som skader både mennesker og institusjoner.
Ny Iphone har kameraknapp
Vil KI eliminere fenomenet?
Noen mener at KI kan løse problemet med «ukjente kjente» fordi KI kan analysere store datamengder og avdekke mønstre vi mennesker ofte overser. KI-systemer blir sett på som mer objektive fordi de ikke påvirkes av svakheter i menneskets måte å tenke på.
Men selv om KI har potensial til å behandle store mengder informasjon mye mer effektivt enn vi mennesker har, kan problemet fortsatt oppstå. KI-systemer er avhengige av hvordan de er trent og hvilke data de bruker. Hvis de bruker data som inneholder feil eller mangler, kan KI-systemer faktisk forsterke problemet med «ukjente kjente». Dessuten er tolkningen av dataene ofte avhengig av menneskelig innsikt, med økt risiko for feilslutninger.
Hva er konsekvensene?
Konsekvensene av «ukjente kjente» i KI kan være alvorlige. Feilvurderinger kan føre til at KI-systemer tar beslutninger som er skjeve eller diskriminerende. For eksempel kan automatiserte rekrutteringsverktøy favorisere visse grupper over andre, hvis de er trent på historiske data som inneholder fordommer. Dette kan føre til tap av tillit, ineffektive systemer og juridiske konsekvenser.
Et annet eksempel er KI-bruk i kredittvurderinger. Hvis KI-systemet baserer seg på data som inneholder skjevheter, kan enkelte grupper bli urettferdig behandlet og bli nektet lån, selv om de egentlig oppfyller kravene. Dette kan forsterke sosiale forskjeller og bidra til økonomisk ulikhet. Slike feil skaper ikke bare mistillit til KI-systemene, men kan også redusere rettferdigheten i viktige samfunnsprosesser.
På et større nivå kan det hemme innovasjon og utvikling. Systemer som baserer seg på mangelfulle data, gjør det vanskelig å identifisere ny utvikling, oppdage nye trender eller å utvikle innsikt. Det vil hindre organisasjoner i å se og utnytte fremtidige muligheter.
Hvordan kan vi redusere problemet i KI?
Selv om problemet med «ukjente kjente» i KI er sammensatt, kan vi redusere risikoen ved å følge en gjennomtenkt tilnærming som tar hensyn til både teknologi og menneskelige faktorer.
Først og fremst må vi regelmessig kvalitetssikre og oppdatere dataene KI-systemene bruker. Mange feil oppstår fordi systemene baserer seg på gamle eller ufullstendige data. Regelmessig oppdatering av data kombinert med jevnlig testing kan sikre at KI-systemene har korrekt og oppdatert informasjon å jobbe med.
Det er også viktig å få inn flere perspektiver når vi utvikler KI. Ulike synspunkter og erfaringer fra ulike fagfelt kan bidra til at KI-systemene ser hele bildet, i stedet for bare én del. Det reduserer risikoen for skjevheter og feilvurderinger.
Det samme gjelder opplæring for utviklere og brukere av KI. De må forstå hvordan KI-systemene fungerer, være klar over hvilke feil som kan oppstå og må kontrollere at KI-systemene utvikles og brukes i tråd med tydelige etiske retningslinjer.
Kunstig intelligens kan være en nøkkel til å løse problemet med «ukjente kjente», men vi må nærme oss teknologien med både presisjon og etisk bevissthet. Hvis vi kombinerer gode data og etiske rammeverk, kan vi kanskje sikre at KI ikke bare gjør oss mer effektive, men også klokere.
Kunstig intelligens skal hjelpe, ikke erstatte pasientdialogen
