Onsdag 13. mars ble den mye omdiskuterte KI-forordningen (AI Act) godkjent i EU-parlamentet. Nå skal det ikke forhandles mer om reglenes innhold. Bare formaliteter gjenstår før det felleseuropeiske regelverket kan anses endelig vedtatt. Men de fleste kravene i regelverket vil ikke begynne å gjelde for alvor før om ett til to år. Hvor står vi i mellomtiden? Klarer vi oss utmerket med de teknologinøytrale reglene vi allerede har, slik noen har argumentert for i den norske samfunnsdebatten rundt KI? Hva er egentlig poenget med KI-forordningen, da?
Skal «tette hullene»
Tanken bak KI-forordningen er at det er behov for visse spesifikke krav til KI. Fra EUs side har målet hele veien vært å lage en lov som skal «tette hullene» i dagens regelverk. Det er nemlig liten grunn til å tro at reglene vi allerede har gir noen god beskyttelse mot faremomentene ved KI. Derfor handler den nye loven om særtrekkene ved KI som teknologi. Ikke minst handler den om å stille krav som skal sikre at eksisterende regler blir etterlevd i praksis, når KI tas i bruk. Forordningen skiller mellom KI-systemer som representerer ulik grad av risiko for sikkerhet, helse og grunnleggende rettigheter.
Før KI i kategorien «høy risiko» kan tas i bruk eller tilbys på markedet, må nærmere bestemte krav til datakvalitet, ytelse, gjennomsiktighet, forklarbarhet, cybersikkerhet, med mer, være oppfylt. Et sentralt formål er å sikre effektiv håndheving av rettsprinsipper som finnes fra før. Dette skal særlig skje gjennom krav til preventive forhåndsvurderinger, før KI tas i bruk.
– Vår bransje er medskyldig
Teknologinøytrale regler ikke tilstrekkelig
Den kommende KI-forordningen er teknologispesifikk, slik at den skal kunne utfylle dagens teknologinøytrale regler. Teknologinøytralitet vil si at reglene i prinsippet gjelder uansett hvilken teknologi en bruker. Advokat Rune Opdahl har pekt på eksisterende forbud mot diskriminering og opphavsrettsbrudd som eksempler på regler som gjelder uavhengig av om kunstig intelligens er involvert eller ikke (Dagens næringsliv 29. januar). Dette er selvsagt riktig, men resonnementet viser samtidig hvilken fallgruve teknologinøytraliteten kan være når den benyttes som hvilepute.
Det er håndhevingen av eksisterende, teknologinøytrale regler som gjør det nødvendig med visse teknologispesifikke krav til KI-systemer. For eksempel krever KI-forordningen at skjevheter («bias») skal vurderes og forebygges gjennom preventive tiltak. Riktig så klare krav til preventive tiltak finnes ikke i dagens regelverk. Uten de preventive tiltakene som vil bli lovpålagt når KI-forordningens krav begynner å gjelde, er det naivt å tro at vi skal klare å fange opp mange tilfeller av algoritmisk diskriminering. Slikt går gjerne under radaren når KI-systemer først er tatt i bruk.
Vi kan ende opp med å påføre kvinnene en revolusjon de aldri ba om
For spesifikke?
Riktignok gir teknologinøytrale regler en nyttig fleksibilitet. Og det skal sies at EUs tilnærming til regulering av KI innebærer en viss fare for at reglene blir for spesifikke. KI-forordningen er laget for å regulere teknologien slik vi forstår den i dag. Hva om teknologien forandrer seg så mye at de nye reglene ikke kan fungere etter sin hensikt? Ingen kan utelukke det. Men akkurat nå er realiteten at KI-teknologi – slik vi kjenner den – er i ferd med å bli utbredt på mange samfunnsområder. EUs lovgivningsapparat har gjort en stor jobb med å kartlegge risikomomenter som dagens regelverk ikke gir effektiv beskyttelse mot.
Snarere enn å hvile passivt på dagens regler, bør norske aktører nå la seg inspirere av kravene i KI-forordningen. Men inntil de nye kravene blir gjeldende rett, er vi prisgitt en viss frivillighet hos markedsaktørene. I dag er det ikke noe rettslig krav om at en KI-leverandør skal gjennomføre de preventive tiltakene som følger av KI-forordningen. Mens vi venter på at kravene i KI-forordningen skal bli gjeldende, er ikke dagens teknologinøytrale regelverk noen god hvilepute. Det er – tvert imot – selve grunnen til at vi trenger KI-forordningen. Det etterlater oss i en litt ubehagelig limbo frem til godt inne i 2025 en gang.
Dette er en skjebneuke for KI i Norge
