Det er selvsagt vanskelig å angi veivalg på et område som er i rask teknologisk utvikling. Regjeringen velger derfor «det trygge» i form av rammebetingelser og regulatoriske forhold. Men heller ikke her går man i dybden, eller gjør seg de nødvendige refleksjoner.
Derfor blir det mange løse tråder, uavklarte problemstillinger og lite forpliktende tiltak. Ingen av de foreslåtte tiltakene i denne «strategien» har f.eks. noen finansiering. Det er derfor vi kan lese i kapittelet om forskning og høyere utdanning at Regjeringen har «forventninger til at studiestedene dimensjonerer og innretter studietilbudet innenfor KI i tråd med behovene i arbeidsmarkedet». Forsknings- og utdanningsinstitusjoner må altså selv prioritere innenfor gitte budsjettrammer.
Manglende næringspolitisk perspektiv
Regjeringen benytter altså heller ikke denne gangen muligheten til å utvikle noen strategi for deling av data, eller å drøfte de spesifikke utfordringer som KI representerer her. En nøyer seg med å stille spørsmål som «Hvordan skal man håndtere eier- og bruksrettigheter i et samarbeid der kommersiell aktør utvikler og trener algoritmer med utgangspunkt i den offentlige viksomhetens data?» Det er sannsynlig, sier rapporten, at slike problemstlillinger vil dukke opp i fremtiden, særlig i tilknytning til bruk av helsedata til kommersielle formål.
Ja, nettopp. Det er derfor en trenger en strategi slik at fellesskapets ressurser kommer felleskapet til gode. «Siste sjanse» for å levere en slik strategi, må komme i den bebudede Stortingsmeldingen om datadrevet økonomi og innovasjon.
En skal også lete forgjeves i rapporten etter betydningen av å utvikle en norsk KI-næring. Argumentet for verdien av en slik næring, er behovet for å etablere et bolverk mot utenlandske KI-leverandører med helt andre verdier enn de norske for bruk, gjenbruk og deling av data. Strategien begrenser seg til tiltak for at SMB-markedet skal kunne ta i bruk KI. Her pekes det på generelle støtteordninger gjennom virkemiddelapparatet (Innovasjon Norge og SIVA), men også gjennom direkte bistand fra Digital Norway.
Grunnen til dette manglende næringspolitiske perspektivet ligger nok i at en ikke drøfter hvilken samfunnsøkonomisk effekert KI kan ha:
- produktivitetseffekt ved effektivisering av arbeidsprosesser
- skape nye arbeidsplasser
- bidra til økt velferd i form av bedre helse, reduserte miljø- og klimaproblemer, mer effektive transportløsninger etc.
Som analysebyrået Menon har vist er det en sammeheng mellom disse størrelsene: Dess mer samfunnet blir digitalisert, dess mer vil verdien av å dele data øke, og dess mer bruk av data og KI blir integrert i alle typer prosesser, dess mer vil dette bidra til velferdsøkning.
Regjeringens KI-strategi blir derfor kun mer eller mindre gode enkelt-tiltak, uten drøfting om hvordan de bidrar til å nå et overordnet mål – som jo er selve formålet med en strategi.
Datatilsynets rolle
Ett av de mer interessante forslagene i strategien er den rolle Datatilsynet tenkt å spille på dette området.
Da Georg Apenes var leder av Datatilsynet, ble tilsynet ofte betraktet som en hemsko for «digitaliseringen». Personvern-bestemmelser ble brukt til å vise hva teknologien ikke kunne gjøre. Under Bjørn-Erik Thon har Datatilsynet skapt seg en ny rolle. Spørsmålet nå er hvordan bruk av teknologi kan tilpasses slik at det oppfyller personvernbestemmelser. Det innebærer en mer aktiv og konstruktiv rolle.
Dette har gitt seg utslag i klare anbefalinger og gode råd (f.eks overfor Skatteetaten og Lånekassen) om hvordan de skal bruke KI innenfor personvern-regimet. Forslag til «dataminimering» og åpenhet i beslutningsprosesser hvor KI er involvert (det såkalte «sort boks»-problemet), er eksempler på det.
Det er derfor gledelig at Regjeringen nå forsterker denne rollen ved sitt forslag om å etablere en regulatorisk sandkasse for KI-området underlagt Datatilsynet. Et slikt tiltak vil kunne teste ut KI-løsninger mot regelverket, redusere «time-to-market» av gode KI-løsninger, få innsikt i hvilke risiki og problemstillinger KI representerer på et tidlig stadium etc. Men heller ikke her er Regjeringen konkret: Forslaget sier ingen ting om hvilke kriterier som legges til grunn for hvem som skal kunne delta i denne sandkassen.
En slik regulatorisk sandkasse er nylig etablert innenfor finansnæringen (FinTech-området). Mens det tok lang tid før Finanstilsynet synes det var en god idé, har Datatilsynet vist en helt annen positiv holdning. Regjeringen åpner også opp for at det kan etableres sektorielle sandkasser innenfor andre områder f.eks. «smarte byer» og autonome transportløsninger, lagt til relevante fagmiljøer.
Under lanseringen kom det et spørsmål om når det blir etablert et algoritme-tilsyn her i landet. Svaret kom kjapt; Datatilsynet er Norges algoritme-tilsyn. Det bør innebære at Datatilsynet vil kunne svare på spørsmål som «Hvilke mekanismer vil etableres for å sørge for innsyn, løpende evaluering og nødvendig revisjon av algoritmebaserte beslutningsprosesser i det offentlige?», som jeg nevnte i min siste kronikk.
KI og etikk
KI har muligheter til å effektivisere store og kompliserte prosesser. Rapporten nevner et eksempel fra Storbritannia hvor en nå skal utprøve ansiktsgjenkjenning ved innsjekking, sikkerhetskontroll og bagasjedropp på flyplasser.
Men dette er allerede innført andre steder. Jeg var nylig på reise i Mellom-Amerika med hjemtur via USA (Atlanta). Allerede ved avreise fra Guatemala ble ansiktsgjennkjenning brukt ved innsjekking; det samme ved utreise fra USA. En skjerm viste bildet av den enkelte og med navns ønsket vedkommende velkommen om bord.
Mange i mitt følge var overrasket over at «systemet» kjente oss igjen uten at vi hadde levert noe pass eller sagt hvem vi var. «Hvor har de den informasjonen fra?», spurte en. Bare en dåre kan stille et slikt spørsmål.
Opplysningene om inn- og utreise ville bli slettet etter 24 timer hvis det dreide seg om amerikanske statsborgere, men betydelige lengre for utenlandske statborgere, fortalte et oppslag på flyplassen.
Utfordringen i norsk sammenheng er ikke bare at en risikerer å innføre utenlandske KI-løsninger, men at disse har verdier som ikke samsvarer med norske holdninger – eller enda verre: Bidrar til å undergrave tillitsforholdet i samfunnet.
I strategien viser Regjeringen til EUs etiske prinsipper for KI-bruk, bl.a. om at vi selv skal bestemme over våre egne data. Men som Inga Strümke og Leonora Bergsjø sier i sin kommentar til Regjeringens KI-strategi: «Hvordan (skal) selvbestemmelsen gjennomføres når utenlandske plattformer samler inn atferdsdata fra norske borgere for alt fra målrettet reklame til potensiell politisk manipulasjon?».
Regjeringens «strategi» på dette området er å invitere til åpen, offentlig debatt. Det foreslås også å etablere mer formelle arenaer med et mer forbrukerrettet perpektiv - Digital Clearing House Norway (etter mønster av tilsvarende på internasjonalt nivå).
KI i offentlig sektor
KI er i dag i bruk i offentlig sektor både i Lånekassen og Skatteetaten. Men i forbausende liten grad brukt i helsesektoren til tross for at behovet der er meget stort. Grunnen er personvernhensyn, regelverk og manglende vilje til deling av data.
KI-strategien foreslår her å lage veiledere for bruk av kunstig intelligens, og å legge til rette for bedre datadeling. Det er et spørsmål om det er tilstrekkelig. I en rapport fra NTNU om Kartlegging av status, utfordringer og behov for KI i offentlig sektor, blir det pekt på at utfordringsbildet er både sammensatt og komplekst, og varierer fra sektor til sektor og fra etat til etat.
Hva slags KI-strategi?
Regjeringen bør ha større ambisjoner, klarere strategier, og mer målrettede og forpliktende tiltak.
