Tidligere i mai foreslo SV stopp i bruken av kunstig intelligens i offentlig sektor.
Det er på sin plass at kunstig intelligens (AI/KI) skal reguleres. At Torgeir Knag Fylkesnes og Marian Hussein fremmer bekymringer angående bruk av kommersiell KI i det offentlige, er også forståelig, men med et totalforbud misforstår man teknologiens potensial og nødvendighet.
SV ønsker at forbudet skal vare frem til et regelverk for bruk og innføring av KI er utviklet. I forslaget tar man imidlertid ikke høyde for at EU allerede er på god vei til å utvikle noe ut av det første regelverket for bruk og innføring av KI i verden.
Dette regelverket vil imidlertid tidligst vedtas mot slutten av 2023 eller i 2024.
Norge har allerede sendt inn sitt posisjonsnotat, hvor Norge er positiv til EUs tilnærming.
Alle blir tapere
Slik dagens rettstilstand står, har Norge to alternativer:
- Norge kan utvikle et eget regelverk, sette ned grupper og komiteer, for så å vedta et regelverk om noen år, eller
- Norge kan vente til EU har vedtatt sitt regelverk, for så raskt å implementere det etter en runde i EFTA for å vurdere relevansen av regelverket – noe som også vil ta år.
Uansett hvordan man vrir og vender på forslaget, sitter man igjen med at det offentlige ikke får ta i bruk KI all den tid man ikke har på plass en regulering.
Hvem sitter igjen som vinnere med et slikt forslag?
Det er her lettere å snu fortegnet og spørre seg hvem sitter igjen som taperne? Rettere sagt teknologitaperne. Svaret er åpenlyst – alle, inkludert teknologiselskap i alle størrelser, det offentlige selv og ikke minst brukerne.
Må se til EU
Fylkesnes synes å trekke en grense mellom generativ KI, som fungerer som en assistent – eksempelvis Microsoft Copilot, og store KI-prosjekt som det offentlige skal anskaffe.
Førstnevnte mener Fylkesnes det er i orden å bruke.
Mye ut av dagens KI bygger på de samme grunnmodellene og store språkmodeller, som GPT-3 og -4 og PaLM-2.
Det har altså lite å si om du utvikler en offentlig chatbot hvis den bygger på eksempelvis GPT-4 eller om dine offentlige ansatte bruker ChatGPT eller Copilot i sin arbeidshverdag – dine data kan fortsatt gå inn i treningen.
Hvis forslaget bygger på at man ikke vet hva som skjer i et KI-system, ønsker å ha kontroll på dataflyt og sikre integritet, blir argumentasjonsrekken til SV lite treffende all den tid man trekker grensen slik Fylkesnes foreslår.
Her bør man heller lene seg på EUs klassifisering av KI-system, på samme måte som i forslaget til AI Act.
For helse og andre offentlige instanser vil typisk de fleste systemer regnes for å være høyrisiko og følgelig underlagt en rekke krav, blant annet datastyring, transparens, robusthet, informasjonsplikt med mer.
I tillegg vil AI Act regulere grunn-modellene og oppstille krav til at hele næringskjeden ivaretar de samme forpliktelsene som utvikleren av grunnmodellen. Dermed vil for eksempel chatbotten som bygger på grunnmodellen være underlagt de samme forpliktelsene.
Bedre måter å sikre Norges verdisett på
Det må også rettes søkelys på grunnleggende rettigheter, som personvern, likestilling med mer.
Her mener Fylkesnes at den eneste riktige måten å sikre disse rettighetene på, er ved å forby kommersiell KI. Forslaget synes imidlertid ikke å ta høyde for dagens teknologiske løsninger, som nettopp sikrer disse rettighetene.
En av disse er bruk av lokal API som behandler data lokalt og unngår at egne data sendes til eksterne servere hos utviklerne – og man kan sikre egen dataflyt.
Videre har man allerede en selvstendig plikt til å sikre at personopplysninger behandles i tråd med personvernregelverket, blant annet ved å implementere organisatoriske og tekniske tiltak. Her kan det offentlige implementere ytterligere organisatoriske og tekniske tiltak for å sikre at personopplysninger ikke havner på avveie, som anonymisering og kryptering.
Dermed vil man ikke nødvendigvis ha behov for forbudet SV foreslår.
Verken Skynet eller 1984
Det er åpenlyst at man bør ha på plass regulering, men å sette Norge på standby i noen år kan vise seg å være veldig uheldig for Norge som land og som en kommersiell aktør.
Samtidig bør man ikke åpne alle slusene og la KI-tilbydere strømme inn i en så vital del av samfunnet som det offentlige er.
Så hva er riktig å gjøre?
Etter mitt syn bør man «plukke de jordbæra man har», forkaste forslaget og implementere tekniske løsninger som kan sikre effektivitet, nytenking og ikke minst kommersielt driv i påvente av EUs regelverk.
For det er verken Skynet eller 1984 vi har med å gjøre.
Rapport: Google utvikler KI som kan surfe på nettet helt på egen hånd
