.jpg){kind=small}
Utkjøring av mat og andre varer har økt under pandemien, og mange har vært avhengige av inntekten fra slike oppdrag. I England må nå Uber, en av de største aktørene i bransjen, forberede seg på å møte i retten.
Kjernen i saken er hvorvidt appen diskriminerer mørkhudede.
Når sjåføren logger på appen for å skaffe seg oppdrag, må de laste opp en selfie. Den sammenlignes med et bilde som tidligere har blitt lastet opp til Ubers database. Funksjonen skal hindre at ikke-lisensierte Uber-sjåfører bruker appen og tar oppdrag på vegne av andre.
Dersom algoritmen ikke kjenner igjen brukeren, får brukeren en advarsel og låses ut fra systemet i 24 timer. Skjer det gjentatte ganger, avslutter Uber automatisk partnerskapet. I effekt får sjåføren sparken av algoritmen, mener kritikerne.
Vil bruke KI til å påvise immunsykdom – men den trenger hjelp
Store personlige konsekvenser
Trebarnsfaren Abiodun Ogunyemi, tidligere Uber-sjåfør, forteller i The Guardian at han har fått alvorlige økonomiske problemer på grunn av algoritmen. Han mistet inntekten over natten, og på det verste hadde han ikke råd til bussbilletten for å få barna på skolen.
– Jeg opplever denne algoritmen som diskriminerende mot fargede. Jeg kjenner rundt fem svarte mennesker som har opplevd det samme, sa Ogunyemi til avisen.
Sjåfører skal ha prøvd å logge inn i appen ved hjelp av en selfie, for så å få beskjed om at verifikasjonen av identiteten hadde feilet, og bli låst ute av appen i 24 timer. Fire dager senere skal kontoen ha blitt stengt, med en beskjed om at dette var en permanent beslutning.
Går til sak
Foreningen for app-sjåfører (ADCU) varslet tirsdag denne uka at de vil gå til sak mot Uber for diskriminering gjennom bruk av ansiktsgjenkjenning.
Siden mars 2020 har Uber brukt ansiktsgjenkjenningen, basert på Microsofts Face Api, en teknologi det amerikanske politiet fant for umoden.
– Teknologien er full av feil, og gir spesielt unøyaktige resultater for mørkhudede, skriver ADCU i meldingen. De viser til undersøkelser som har vist at ansiktsgjenkjenningsalgoritmer tar feil mellom 10 og 100 ganger oftere når den brukes på mørkhudede, enn når den brukes på hvite.
ADCU ber nå folk bidra med penger til saken, gjennom en egen crowdfunding-kampanje.
Rasistisk ansiktsgjenkjenning
Det har lenge vært kjent at ansiktsgjenkjenning fungerer dårligere for personer med mørkere hudfarge.
Undersøkelser fra Harvard har vist at der teknologien kjenner igjen hvite menn i godt over 90 prosent av tilfellene, feiler enkelte mye brukte algoritmer så mye som én av tre ganger i forsøk på å identifisere mørkhudede kvinner.
Derfor har blant annet politiet i USA valgt bort ansiktsgjenkjenning som verktøy, etter massive protester, blant annet fra Black lives matter-bevegelsen. Også Facebook, som har vært i hardt vær i høst, skrudde selv av automatiske anbefalinger etter å ha merket svarte menn som primater i en video.
Uber avviser anklagene
Uber svarer The Guardian at anklagene er helt ubegrunnet, og at selskapet sloss mot rasisme og diskriminering, både i og utenfor selskapet.
Funksjonaliteten er lagt inn for å beskytte sikkerheten til alle som bruker appen, ved å sikre at det er den riktige sjåføren som bruker kontoen, og sjåførene kan velge menneskelig verifikasjon av bildet.
Tester om norsk KI-modell kan avsløre GPS-jamming
