Fremskrittene innen kunstig intelligens har gjort overvåkning og gjenkjenning av mennesker enklere og mer effektiv enn noensinne. Det har ført til økt skepsis fra myndighetenes side, og nå har EU kommet på banen med planer om å holde AI-basert overvåkning kraftig i tømmene.
I en fersk pressemelding (via Engadget) tar EU-organet European Data Protection Board (EDPB) til orde for å totalforby innhenting av alle typer biometriske data ved hjelp av kunstig intelligens – og det omfatter ikke minst ansiktsgjenkjenning.
Ekstrem risiko
– Tatt i betraktning den ekstremt høye risikoen knyttet til biometrisk fjernidentifisering av individer i offentlig tilgjengelige rom, ønsker EDPB og EDPS et generelt forbud mot all bruk av kunstig intelligens til automatisk gjenkjenning av menneskelige trekk i offentlige rom, slik som gjenkjenning av ansikter, gange, fingeravtrykk, DNS, stemme, tastetrykk og andre biometriske eller adferdsmessige signaler, i enhver kontekst, heter det i pressemeldingen.
De nye reglene ble opprinnelig lagt frem som et forslag fra EU-kommisjonen, noe Digi.no skrev om i april. Med tanke på at EDPB, som blant annet er ansvarlig for håndhevelse av EUs GDPR-lovgivning, nå har gitt til tilslutning til forslagene, er vi trolig nærmere en implementering.
I tillegg til dette anbefaler EDPB også et forbud mot AI-systemer som bruker biometrisk informasjon til å kategorisere mennesker basert på etnisitet, kjønn, politisk tilhørighet, legning og andre faktorer.
Flere forbud
EDPB stopper imidlertid ikke der, og de ønsker å forby bruk av kunstig intelligens til å innhente data om personers følelsestilstander – et fenomen EDPB kaller «høyst uønsket». Unntak kan gjøres innen behandling av pasienter i helsevesenet, hvor følelsesdata i noen tilfeller kan være viktig.
Ikke minst ønsker de seg et totalforbud mot kunstig intelligens til såkalt «sosial poenggivning» – et kontroversielt fenomen som innebærer å gi mennesker «poeng» basert på blant annet sosial og økonomisk posisjon og adferd i samfunnet. Slik praksis bryter med EUs grunnleggende verdier og kan føre til diskriminering, heter det.
EU la frem sitt forslag til rammeverk for tilnærming til kunstig intelligens i april i år. Som ledd i dette skal organisasjonen etablere et eget organ kalt European Artificial Intelligence Board, som får i oppgave å implementere de nye reglene og utvikle standarder for kunstig intelligens.
Når de nye reglene eventuelt kommer på plass, og akkurat hva som blir konsekvensene her i Norge, gjenstår å se.
EU vil forby kunstig intelligens brukt til vilkårlig overvåkning
