Kunstig intelligens (KI), og spesielt generativ KI, er en samling besnærende teknologier som, dersom man ikke har god teknologisk innsikt, kan forlede beslutningstakere i alle ledd i organisasjoner til å ta uinformerte vurderinger. The Fear of Missing Out on AI (FOMAI) griper oss alle, og det kreves høyt bevissthets- og kunnskapsnivå for å navigere fornuftig i det sosioteknologiske landskapet som dermed oppstår. En foreløpig undersøkelse vi har gjort indikerer at det er ujevn bevissthet og oppfatninger blant teknologer og ledelse i offentlig sektor om KI.
Analyser anslår innsparte timer og produktivitetsøkninger i flere domener, men også utfordringer når det gjelder tillit, hensiktsmessige anvendelsesområder, likeverd, sikkerhet, sårbarhet, personvern og demokrati. For eksempel ser vi allerede utfordringer i helsesektoren hvor KI-baserte beslutningsstøttesystemer reiser spørsmål om ansvarsforhold og likeverdig behandling.
Slik når du KI-målet ditt, Karianne
Mange forutsetninger må på plass
I NAV har pilotering av KI-verktøy vist hvordan personvernhensyn må balanseres mot effektivitetsgevinster, mens kommunenes eksperimentering med chatbots har synliggjort sårbarheter i demokratisk transparens. Arbeidet som nå pågår med KI-relaterte forskningsprosjekter og utredninger gjør det tydelig at det er stor usikkerhet hvilke konsekvenser (generativ) KI vil gi. Som NTNU og Datatilsynets rapport finner, er det dessuten mange forutsetninger som må på plass før man trygt kan begynne å bruke KI i bedriften eller organisasjonen.
Regjeringen har som målsetting at 80 prosent av offentlige virksomheter skal ha tatt i bruk KI i løpet av 2025 – og 100 prosent innen 2030; og dessuten skal Norge være verdensledende i infrastruktur for KI. Det haster å hoppe på første vogn, og noen synes det går for sakte:
«Det er ikke tilfredsstillende at Digitaliserings- og forvaltningsdepartementet gjennom styring og i samarbeid med de andre departementene ikke har lagt bedre til rette for at offentlig sektor kan utnytte mulighetene med kunstig intelligens og ta i bruk kunstig intelligens på en ansvarlig måte. Den samlede innsatsen er for svak gitt ambisjonen om at Norge skal ha en infrastruktur for kunstig intelligens i verdensklasse.»
Riksrevisjonens rapport «Bruk av kunstig intelligens i staten»
Nyttestyring
På SimulaMet har vi Senter for effektiv digitalisering av offentlig sektor (EDOS), der vi i lengre tid har forsket på nyttestyring («benefits management»). Nyttestyring dreier seg om å ha eksplisitte forestillinger (kall det gjerne mål) om hvilke endringer i arbeidsprosesser, livsprosesser og samfunnsprosesser et digitaliseringsinitiativ skal bidra til, og sørge for at systemene man utvikler i størst mulig grad oppnår disse ambisjonene, i forhold til kostnadene. Vi har et livssyklusperspektiv, slik at man holder fokus på både nytte og kostnader i daglig arbeid i design, utvikling, innfasing, og bruk av digitaliserte tjenester.
Et digitaliseringsinitiativ er et virkemiddel og er ikke et mål i seg selv. En infrastruktur for kunstig intelligens i verdensklasse er et virkemiddel og ikke et mål i seg selv; det er heller ikke graden av bruk av KI.
Det kan hende det er betimelig å snakke om at Norge skal ha en infrastruktur i verdensklasse for kunstig intelligens. Men ambisjonene burde ha hovedvekt på de sentrale samfunnsnyttige målsettinger en slik stor virkemiddelsatsing er tenkt å bidra til, snarere enn på virkemiddelet selv. Man må med andre ord forstå hva man vil oppnå med en infrastruktur, om ikke før, så i hvert fall samtidig med at man bygger den. Mange muligheter kan åpne seg underveis, og vi må ha kontinuerlige og inngående diskusjoner og undersøkelser om hva man vil oppnå av virksomhets- og samfunnseffekter sammen med planlegging og oppbygging av infrastruktur.
KI-generert informasjon: – På sikt vil dette redusere vår evne til kritisk tenkning
Gradvis og systematisk
Flere undersøkelser viser at nye muligheter for å generere nytte, melder seg ettersom man får (inkrementell) erfaring med systemet (i alle livssyklusfasene). Å ha et bevisst forhold til slike endringer, der man tillater seg å oppdatere målbildet ettersom man lærer mer, er kjernen i adaptive benefits management, og vil være desto mer relevant med generativ KI som del av digitaliseringsverktøykassa. Et konkret eksempel på adaptiv nyttestyring ser vi i en kommune som først implementerte KI for enkle henvendelser, men som gjennom systematisk læring oppdaget nye bruksområder innen saksbehandling. Ved å justere målbildet kontinuerlig basert på erfaringer, kunne de gradvis utvide anvendelsen samtidig som de ivaretok kontroll og kvalitet.
Internasjonalt ser vi at land som har valgt en gradvis og systematisk tilnærming til KI i offentlig sektor, ofte oppnår mer bærekraftige resultater. Erfaringer fra andre land viser at det er mulig å være innovativ, samtidig som man ivaretar kontroll og kvalitet. Dette står i kontrast til eksempler hvor rask implementering har ført til tekniske og etiske utfordringer som kunne ha vært unngått med en mer bevisst tilnærming.
Nyttestyringen må være adaptiv
Man kunne tro at Riksrevisjonens rapport hentydet til at man ikke hadde nok fokus på de tiltenkte nyttevirkningene ved KI, men det er ikke det som er «ikke tilfredsstillende»; det er at vi ikke sitter først på det løpske toget. Det er imidlertid ingen tvil om at vi er på toget, og hvis vi skal kjempe oss framover i togsettet, bør vi ta styring – nyttestyring.
Nyttestyringen må være adaptiv, slik at man setter nye mål ettersom man lærer mer. Man trenger altså ikke å vite hvor man skal, men må lære dette underveis, og det krever sterk tilstedeværelse og metodisk utprøving med dyp kunnskap i alle relevante sosioteknologiske disipliner, og en agenda for en adaptiv tilnærming til KI-strategi. FOMAI-syndromet manifesterer seg nå som en kollektiv stressreaksjon der vi kaster oss på KI-toget uten å vite hvor det fører oss. Frykten for å bli hengende etter teknologisk, kan paradoksalt nok føre til at vi mister kontrollen over digitaliseringens retning. Det holder ikke å bare sette seg på toget og øke farten.
Lars Rinnan tror ikke KI-bobla vil sprekke
