La oss være tydelige: Tromsø-tabben er ingen KI-skandale, men den viser oss klart hvor vi må forbedre oss for å unngå enda større feil i fremtiden.
Når en kommune hallusinerer forskningskilder med kunstig intelligens (KI), avslører det ikke en teknologisk skandale, men en menneskelig svikt. Tromsø-rapporten viser at offentlig sektor mangler grunnleggende digital kompetanse, et alvorlig faresignal når digitaliseringsministeren ønsker at 80 prosent av offentlige virksomheter skal bruke KI innen 2025. Lærdommene herfra er like relevante for næringslivet, som ofte står overfor tilsvarende press for å fremstå innovative og «KI-drevne».
Digital umodenhet
.png)
Tromsø kommunes rapport med ikke-eksisterende forskningskilder er symptomatisk for noe langt mer omfattende enn en isolert teknologitabbe. Det avslører en digital umodenhet som må tas på alvor, både i offentlig og privat sektor. Konsekvensene av slike feil kan være enda mer alvorlige for bedrifter, hvor tapt tillit raskt kan føre til tapt markedsandel og omdømme.
Kunstig intelligens er ikke synderen her. KI gjorde bare det den er programmert til å gjøre: generere innhold basert på sine treningsdata. Det er menneskene i systemet som sviktet.
Manglende kildekontroll og grunnleggende forståelse for teknologiens begrensninger er det egentlige problemet, uavhengig av om det er en kommunal rapport eller en bedriftspresentasjon.
En konkret lærdom
En konkret lærdom er at vi trenger tid til kompetansebyggingen
Vi kan og må lære av denne feilen, og lærdommen er krystallklar for både offentlige organisasjoner og private virksomheter:
Vi kan ikke ta i bruk KI under tidspress eller uten nødvendig kompetanse.
At hallusinering av kilder er en kjent utfordring med dagens KI-systemer, er grunnleggende KI-kunnskap. Likevel passerte en rapport med oppdiktede kilder flere godkjenningsledd. Dette er urovekkende og viser at vi trenger å sette av dedikert tid til kompetanseheving.
Når digitaliseringsministeren setter ambisiøse mål om offentlige virksomheters bruk av KI, må dette følges av tilsvarende ambisiøse kompetansekrav.
Det samme gjelder for næringslivet, hvor konkurransen kan drive frem hastig implementering av KI-verktøy uten tilstrekkelig forberedelse.
Ikke skyld på tidspress
Tidspress er aldri en gyldig unnskyldning for å ty til raske KI-løsninger eller hoppe over opplæring. Tvert imot bør tidspress være et signal om at KI kanskje ikke er riktig verktøy for oppgaven. Digital kompetanse betyr i denne sammenhengen å kunne stille kritiske spørsmål til KI-genererte svar, dobbeltsjekke påståtte kilder og forstå når verktøyet overskrider sine begrensninger, grunnleggende ferdigheter som åpenbart manglet i Tromsø-casen.
Vi trenger målrettet opplæring i forståelse av KI-teknologiens muligheter og begrensninger. Dette innebærer solid kunnskap om kildekritikk og verifiseringsmetoder som kan avdekke hallusinerte referanser. Ressurser som Digital Norways veiledninger om KI i norsk kontekst og generelle introduksjonskurs må prioriteres før implementering, ikke etterpå. Både offentlige institusjoner og private bedrifter må investere i denne type kompetansebygging.
Trenger kvalitetssikring
Det er ikke nok med kunnskap alene. Både offentlig og privat sektor trenger formelle kvalitetssikringssystemer som sikrer at KI-generert innhold møter faglige standarder.
Dette betyr å etablere konkrete benchmarks og sammenligningsgrunnlag for å vurdere kvaliteten på KI-assistert arbeid. Med benchmarking mener vi rett og slett å ha klare standarder å måle resultatene mot, en slags målestokk for hva som er god kvalitet. Uten slike målestokker blir det umulig å vite om resultatet er akseptabelt.
En robust kvalitetssikringsprosess ville umiddelbart fanget opp de oppdiktede kildene. At rapporten kunne passere gjennom flere ledd, vitner om at vi trenger å bygge systematiske kontrollmekanismer som setter menneskelig vurdering i sentrum.
Denne typen rutiner må være på plass før, ikke etter at, KI tas i bruk i beslutningsprosesser.
Kommunedirektørens forsikringer om at «KI bare var et hjelpemiddel» holder ikke når resultatet undergraver tilliten til kommunens beslutningsprosesser.
Feil som rammer samfunnet
På samme måte vil ingen bedriftsledere komme unna med å skylde på verktøyet når feil oppstår. Et hjelpemiddel krever fortsatt kompetanse for å brukes forsvarlig. Hver gang slik inkompetanse avdekkes, eroderes ikke bare tilliten til den aktuelle institusjonen eller virksomheten, men til hele samfunnets evne til å håndtere moderne teknologi på en forsvarlig måte.
Dette er neppe den første eller siste KI-relaterte feilen i norsk offentlig forvaltning eller næringsliv. Men lærdommen er tydelig: Digital transformasjon handler mer om kultur, kompetanse og kvalitetssikring enn om teknologi. Verktøy uten kunnskap skaper ikke innovasjon, men risiko. Og fremfor alt: Tidspress er aldri en unnskyldning for å kutte hjørner når det gjelder kvalitet og kompetanse, verken i kommunehuset eller i næringslivet.
Ble avslørt av Høyesterett: KI diktet opp rettskilder
