Etter tre års arbeid, la EU-Kommisjonen i forrige uke frem sine planer om et rammeverk for å regulere kunstig intelligens (Artificial Intelligence Act). Som det første av sitt slag i verden, setter forslaget nok en gang EU i det globale førersete for regulering og standarder.
Forslaget har vært ett av Ursula von der Leyen, President i EU-kommisjonen, sine hovedprioriteringer i ambisjonen om å gjøre Europa rustet for den digitale tidsalder. Reguleringene skal sikre at de etiske prinsippene rundt såkalt trustworthy AI videreføres også i praksis, og EU retter med dette forslaget søkelyset spesielt mot den bruken av kunstig intelligens som utfordrer kjerneverdiene i Europa, og som truer borgernes rettigheter.
Det regulatoriske rammeverket har følgende målsetting:
-
Sikre at KI-systemer innenfor EU er trygge og respekterer eksisterende lover om de fundamentale rettighetene og verdiene i EU.
-
Sikre forutsigbare juridiske rammer som tilrettelegger for investeringer og innovasjon innenfor KI.
-
Effektiv håndheving av eksisterende regelverk knyttet til grunnleggende rettigheter og sikkerhetskrav til KI-systemer.
-
Tilrettelegge for utviklingen av et harmonisert, indre marked for lovlige, sikre og tillitsbaserte KI-løsninger.
Vil legge til rette for økt bruk
I et panel med den amerikanske senatoren Mark R. Warner, sa visepresidenten i Kommisjonen, Margrethe Vestager, at poenget med forslaget ikke er å være ekstrem, snarere tvert imot. EU ønsker å være balanserte i sine reguleringer. Hun la også til at reguleringene er ment for at man skal kunne ta i bruk kunstig intelligens i enda større grad, innenfor et rammeverk som bygger på EUs grunnleggende verdier.
Forslaget forsøker å regulere kunstig intelligens før det blir mainstream. EU-kommisjonen deler blant annet kunstig intelligens inn i ulike risikogrupper, med tilsvarende grad av regulering. Høyrisiko vil si KI-løsninger som truer folks sikkerhet eller grunnleggende rettigheter. Dette vil eksempelvis kunne være selvkjørende biler, eller software løsninger som vurderer jobbsøknader eller deler ut lån. I tillegg vil bruken av ansiktsgjenkjenning i offentlige rom bli forbudt, riktignok med enkelte unntak knyttet til nasjonal sikkerhet.
EU vil slå knallhardt ned på bruk av kunstig intelligens til å hente inn data om mennesker
Utfordrer Kina og USA
Det er interessant å merke seg at reguleringene utfordrer begge de regjerende tech-gigantene; Kina og USA - på hver sin måte. I forslaget poengterer EU at de ønsker å forby bruken av systemer som gir såkalt social credit, dvs. systemer som gir borgere samfunnspoeng basert på hvor gode/dårlig borger man er. Dette er et verktøy som man i dag i all hovedsak ser brukt i Kina. Hvordan Kinesiske myndigheter vil forholde seg til at denne typen system nevnes spesifikt i forslaget, gjenstår å se.
Helt siden Joe Biden tok over som president i USA, har landet nok en gang jobbet for å forsterke samarbeidet med EU, dette i stor grad som en motvekt til Kinas stadig voksende tech ambisjoner. Så langt har derimot ikke USA fulgt EU-reguleringer knyttet til personvern, med GDPR som det mest kjente eksempelet. Selv om Kommisjonen håper at amerikanske selskap som ønsker å fortsette sin virksomhet i Europa skal innrette seg regelverket, kan dette nye forslaget potensielt bidra til at det regulatoriske gapet mellom de to bare blir enda større.
Samtidig ser man også tendenser til at reguleringer som kommer fra USA og EU har visse likhetstrekk. Fremgangsmåten er annerledes, men formålet er noenlunde likt. Et eksempel på dette er bruken av ansiktsgjenkjenning. I september i fjor innførte byen Portland i Oregon en lov som forbyr bruken av ansiktsgjenkjenning. På samme måte, anser EU i sitt forslag ansiktsgjenkjenning som høy-risiko, og ønsker i stor grad å forby bruken.
Kina foreslår regler for ansiktsgjenkjenning
Interessant nok kom Beijing i slutten av april i år med et eget utkast til sikkerhetskrav i forbindelse med bruk av ansiktsgjenkjenning. The National Information Security Standardization Technical Committee of China (TC260), har i sitt utkast lagt vekt på at data som er samlet eller generert i Kina, skal lagres i Kina. Videre, skal ansiktsgjenkjenning kun brukes på folk over 14 år og kun for å identifisere, dvs. ikke til å predikere eventuelle forløp.
Det er ingen tvil om at startskuddet for en global debatt om regulering av kunstig intelligens har gått. Nå bør også norske myndigheter komme på banen.
Reuters: Open AI skal bygge egne KI-brikker
