Clearview AI, et australsk selskap som hevder å ha en database med mer enn 10 milliarder ansiktsbilder, står overfor en potensiell bot på 17 millioner pund for sin håndtering av personodata i Storbritannia, skriver BBC. Beløpet tilsvarer over 205 millioner norske kroner.
Selskapets database er bygget gjennom automatisk skraping av offentlig tilgjengelige bilder av ansikter på tvers av sosiale medier og andre nettsteder. Deretter selger den tilgang til databasen – og muligheten til å identifisere mennesker – til politimyndigheter og private selskaper.
Det britiske datatilsynet (Information Commissioner's Office, ICO) har ifølge BBC uttalt at de har betydelige bekymringer angående Clearview AI.
Tilsynet har bedt selskapet om å slutte å behandle britiske personopplysninger og slette alle det har.
Clearview, som har blitt invitert til å komme med tilsvar, har på sin side sagt at tilsynets påstander er «faktisk og juridisk ukorrekte», og at de vurderer en anke og «ytterligere handling».
«Betydelig antall personer fra Storbritannia»
Clearview AIs verktøy lar en bruker, for eksempel en politiansatt som søker å identifisere en mistenkt – laste opp et bilde av et ansikt og få opp treff i databasen. Systemet gir deretter lenker til hvor på internett de matchende bildene dukket opp.
I en uttalelse sier det britiske datatilsynet at Clearviews database sannsynligvis inkluderer et betydelig antall personer fra Storbritannia, hvis data kan ha blitt samlet uten at de har vært klar over det.
Selskapets tjenester antas å tidligere ha blitt testet av en rekke britiske myndighetsorganer, men dette ble avsluttet og Clearview AI har ingen britiske kunder, skriver BBC.
Det britiske datatilsynet uttaler at deres foreløpige syn er at selskapet ser ut til å ha unnlatt å overholde britiske personvernlover ved blant annet å unnlate å behandle informasjonen til britiske borgere rettferdig, ved å ikke ha en prosess på plass for å hindre at dataene lagres på ubestemt tid, at de ikke har en lovlig grunn til å samle inn informasjonen, og at de ikke har informert personene i databasen om bruken av deres data.
KI-gudfar får nobelpris – frykter at teknologien kommer ut av kontroll
– Storbritannias beste
Avgjørelsen er ikke ferdigbehandlet, og det britiske datatilsynet sa at eventuelle tilsvar fra Clearview AI vil bli nøye vurdert før en endelig avgjørelse blir tatt ved midten av neste år.
Hoan Ton-That, administrerende direktør for Clearview AI, uttaler ifølge BBC at «Jeg er dypt skuffet over at det britiske datatilsynet har feiltolket teknologien og intensjonene mine.
«Selskapet mitt og jeg har handlet i Storbritannias og deres folks interesse ved å bistå rettsmyndigheter med å oppklare grufulle forbrytelser mot barn, eldre og andre ofre for skruppelløse handlinger (…) Vi samler bare inn offentlige data fra det åpne internett og overholder alle standarder for personvern og lover.»
Et steg nærmere europeisk forbud
Clearview AIs kontroversielle metode er gjenstand for flere juridiske prosesser globalt. Blant annet satte myndigheter i Storbritannia og Australia i gang undersøkelser av selskapets dataskrapingsteknikker i fjor, og tidligere i år ble politiet i Sverige bøtelagt av landets datatilsyn for å ha brukt tjenesten.
Selskapet har allerede blitt funnet skyldig i å ha brutt australsk personvernlov, men ønsker en gjennomgang av kjennelsen.
Selskapet ble også saksøkt i Illinois i USA i fjor for brudd på Illinois Biometric Privacy Act, noe som bidro til selskapets beslutning om å slutte å selge produktet til private amerikanske selskaper.
Justisminister Mæland bekreftet i mars i fjor at også norske Kripos testet Clearview AI i 30 dager høsten 2019.
I oktober stemte EU-parlamentet for for et totalforbud mot bruk av ansiktsgjenkjenning i det offentlige rom, som inkluderer myndighetenes og politiets bruk av kunstig intelligens til å prediktivt avverge kriminelle handlinger. EU-parlamentet krever også at bruk av private ansiktsgjenkjenningsdatabaser forbys, noe som blant annet rammer Clearview AI.
Forslaget har fått flertall, men er det ikke juridisk bindende.
Det er likevel et sterkt signal om hvordan vi kan forvente at «Artificial Intelligence Act» som er under utarbeidelse, vil se ut. EU-parlamentet har bedt EU-kommisjonen sette i gang saker mot medlemsstater der det er nødvendig.
Datatilsynet refser Norwegian
