IBMs administrerende direktør Arvind Krishna har annonsert at IBM ikke lenger vil tilby programvare for generell ansiktsgjenkjenning eller ansiktsanalyse. Dette kommer frem i et åpent brev sendt til den amerikanske kongressen for å støtte Demokratenes forslag til en ny politireform. Reformen skal gjøre det lettere å straffeforfølge politiet i tilfeller av maktmisbruk eller rasisme («Justice in Policing Act of 2020»).
Det var CNBC som meldte dette først.
Ansiktsgjenkjenning har i løpet av de siste årene blitt veldig mye bedre takket være forbedringer innenfor kunstig intelligens og maskinlæring. Flere selskaper selger ansiktsgjenkjenning som en tjeneste «i skyen», men dette har ikke alltid vært helt uproblematisk. Det har for eksempel vært mange eksempler på at bruk av denne typen løsninger enten har gitt feil resultater, eller at løsningene kan forsterke fordommer i dataene som brukes til å trene opp algoritmene. Dette kan være fordommer basert på kjønn, etnisitet eller andre ting.
I brevet viser Krishna til dødsfallet til George Floyd og flere andre, og sier dette viser at kampen mot rasisme er langt fra over. Teknologi kan bidra til økt transparens og hjelpe politiet med å beskytte lokalsamfunnene, men det er viktig at teknologien ikke fører til økt diskriminering og urettferdig behandling basert på rase, skriver han.
«IBM tilbyr ikke lenger ansiktsgjenkjenning eller analyseprogramvare for generelle formål. IBM motsetter seg og vil ikke godkjenne bruk av teknologi, inkludert ansiktsgjenkjenning som tilbys av andre leverandører for masseovervåking, raseprofilering, brudd på grunnleggende menneskerettigheter og friheter, eller noe som ikke er i samsvar med våre verdier og prinsipper om tillit og åpenhet. Vi mener at det er på tide å starte en nasjonal dialog om hvorvidt ansiktsgjenkjenningsteknologi skal brukes av nasjonale politimyndigheter, og hvordan», skriver Krishna i brevet.
Må teste AI for fordommer
Krishna mener produsentene og brukerne av AI-løsninger har et delt ansvar når det gjelder å teste AI-løsninger for fordommer, spesielt når løsningene brukes av politimyndigheter. Slike tester må også gjennomgås av andre og rapporteres.
Politimyndigheter bør ifølge IBM-sjefen også i større grad ta i bruk teknologi som gir økt åpenhet, som kroppskameraer for politiet og moderne teknologi for dataanalyse.
En kilde forteller til CNBC at IBMs beslutning om å trekke seg ut av alt som har med generell ansiktsgjenkjenning å gjøre, kom som en direkte følge av George Floyds død og diskusjonene om behovet for en ny politireform som kom like etterpå.
