Den nasjonale KI-strategien fra 2020 hadde som mål å fremme ansvarlig bruk av kunstig intelligens (KI) i Norge. Utviklingen innen KI, spesielt generativ KI, har siden gått raskt og åpnet for nye muligheter, men også utfordringer. Riksrevisjonens rapport «Bruk av kunstig intelligens i staten» (2023–2024) viser at offentlig sektor har et stort uutnyttet potensial. Nå er spørsmålet hvilke konsekvenser Riksrevisjonens funn, og den raske utviklingen innen KI, bør få for den neste nasjonale KI-strategien.
Generativ KI og etiske utfordringer
Generativ KI, som Chat GPT og Bing Copilot, åpner for mye raskere beslutningsstøtte og smartere offentlige tjenester. Men de innebærer også etiske utfordringer som systemisk urettferdighet og diskriminering. Riksrevisjonen peker på manglende klare retningslinjer for testing, skjevhetskontroll og beskyttelse mot diskriminering.
I Nederland har myndighetene brukt KI til å finne skattesvindlere. Gjennomgående var det folk med minoritetsbakgrunn som ble flagget som trygdesvindlere. KI-systemet var diskriminerende og uskyldige ble dømt til fengselsstraffer. Daværende statsminister Mark Rutte måtte gå av som en konsekvens.
.jpg)
Journalistikk i KI-alderen: Hvordan påvirkes det frie ordet?
Tiltak
Det er ingen grunn til å tro at slike feil kun kan gjøres i Nederland. Neste KI-strategi må derfor inkludere klare tiltak for å møte disse utfordringene.
Ett tiltak er å lage et rammeverk for testing av KI-systemer for å sikre pålitelighet. Uavhengig verifisering og åpenhet rundt testresultater vil bidra til tillit. Vi må også lage retningslinjer for å redusere skjevhet i data og algoritmer.
KI-systemene må kunne forklare hvordan beslutninger tas og hvilke data som påvirker dem. Det er avgjørende for at offentlige virksomheter skal kunne bygge tillit hos innbyggerne og samtidig unngå feil som kan få vidtrekkende konsekvenser. Etiske vurderinger må integreres i alle faser av KI-utvikling, med retningslinjer for ansvarlig datautnyttelse og menneskelig involvering.
Dette krever et felles kompetanseløft for alle offentlige virksomheter. Det peker på et av de andre hovedfunnene i Riksrevisjonens rapport.
Alvorlig mangel på kompetanse
Riksrevisjonen peker på en stor mangel på KI-kompetanse i offentlig sektor, også innen etikk. Mangelen gjelder for både ledere og teknisk ekspertise, evnen til å integrere KI i prosesser og beslutningstaking, i tillegg til juridiske aspekter ved KI.
Manglende KI-kompetanse kan føre til feilaktig design, utvikling og implementering av KI-løsninger, noe som resulterer i ineffektive systemer og potensielt skadelige beslutninger. Det begrenser også evnen til å utnytte teknologiens fulle potensial. Dette kan hindre effektivisering og svekke tjenestene. I tillegg kan økt avhengighet av eksterne leverandører gi høyere kostnader og mindre fleksibilitet.
Strategien fra 2020 pekte riktig vei, men utviklingen går så fort at vi har ikke råd til å heve kompetansen i sakte fart. Norges utdanningsinstitusjoner må ta en lederrolle i å fremme etisk bevissthet rundt KI, for å sikre at offentlige virksomheter får tilgang til riktig kompetanse som kan hjelpe dem med å håndtere de komplekse utfordringene KI skaper. Andre aktuelle tiltak er kurs, sertifiseringsprogrammer, etablering av interne kompetansemiljøer, mentorordninger og samarbeid på tvers av sektorer.
IKT-Norge ut mot Støre: – Det mangler tydelig lederforankring
Mangelfull infrastruktur
Den nasjonale KI-strategien har satt søkelyset på kvalitetsdata, digital infrastruktur og felles digitale løsninger. Også her avdekker Riksrevisjonen betydelige utfordringer, blant annet dårlig datatilgang og varierende datakvalitet, som skaper forsinkelser og øker kostnadene. Blant årsakene er mangelen på gjennomføring av tiltak for datadeling og en KI-utvikling som har gått raskere enn strategien opprinnelig forutså. Kostbare maskinvarekrav og fravær av felles løsninger og plattformer, har ført til at nesten halvparten av offentlige virksomheter sliter med å implementere KI.
Neste KI-strategi må satse på digital infrastruktur for mindre virksomheter, felles løsninger og en nasjonal skytjeneste for offentlig sektor.
Veien videre: En dynamisk KI-strategi
Den neste KI-strategien må være dynamisk og tilpasningsdyktig, Det betyr regelmessig evaluering av teknologiske fremskritt, med jevnlige oppdateringer av både innhold og retning for å holde tritt med utviklingen.
Strategien bør også inkludere tilbakemeldinger fra KI-implementeringer i offentlig sektor, slik at retningslinjer og praksis kan finjusteres basert på reelle erfaringer. Vi trenger et fleksibelt regelverk som kan tilpasse seg nye etiske dilemmaer og teknologiske nyvinninger.
Dette vil holde strategien relevant og sikre at KI-bruken i offentlig sektor gagner både innbyggerne og samfunnet. Kanskje det mest avgjørende spørsmålet vi må stille oss er: Hvordan kan offentlig sektor sikre at den ikke bare skaper smartere systemer, men også bidrar til et mer rettferdig og likestilt samfunn gjennom ansvarlig bruk av KI?
.jpg)
Legger frem over 100 tiltak: Her er de fem viktigste
