IT-giganten er kjent for sin iver etter å automatisere. Kunstig intelligens og maskinlæring inngår i svært mye av forretningsdriften til Amazon, blant annet til logistikk, vareplukking, brukertilpasning med skreddersydde tilbud og generelt i de mange netttjenestene de tilbyr.
At selskapet også ønsker å effektivisere selve rekrutteringsfasen kommer neppe som en overraskelse, men verktøyet de laget for dette ble ingen suksess.
I 2014 begynte et team av spesialister på oppgaven. Ved hjelp av maskinlæring laget de en eksperimentell løsning for å gå gjennom bunkene med jobbsøknader.
Året etter gikk det opp for dem at systemet ikke rangerte kandidater til jobber som programvareutvikler og andre tekniske stillinger på en kjønnsnøytral måte, skriver Reuters.
Forsterket skjev kjønnsbalanse
For hva skjer hvis du trener opp algoritmer som skal plukke ut de best egnede kandidatene, hvis modellene er trent opp på jobbsøknader de hadde samlet inn over en 10 års periode?
De fleste av disse var menn. Her skiller Amazon seg lite fra resten av den mannsdominerte IT-bransjen.
Resultatet var at rekrutteringsverktøyet lærte seg selv at menn var de foretrukne kandidatene. Senere forsøkte teamet å justere algoritmene, men uten å lykkes. Etter hvert mistet Amazon-ledelsen troen på prosjektet, som ble lagt ned tidlig i 2017, ifølge nyhetsbyråets kilder.
Selskapet har ikke ønsket å kommentere utfordringene de støtte på i prosjektet, men de hevder at verktøyet aldri ble brukt til å evaluere jobbsøkere.
Flere har snublet
Dette er ikke den eneste historien der maskinlæring har gitt uønskede resultater. Microsoft slapp i 2016 løs chatboten «Tay» på Twitter, som var programmert til å trenes opp av menneskene den kommuniserte med.
16 timer etter lansering ble boten skrudd av for godt. Det skjedde etter at Tay hadde spydd ut en serie nedlatende og rasistiske meldinger. Microsoft måtte beklage episoden, som ifølge selskapet skyldtes at chatboten ble sabotert av nettroll som trente den opp med politisk lite korrekt innhold.
Maskinlæring brukt til ansiktsgjenkjenning har også skapt overskrifter, blant annet da Amazons løsning Rekognition feilaktig pekte ut 28 representanter i kongressen som kriminelle, fordi de var mørke i huden.
At rasediskriminering kan være et problem i løsninger for ansiktsgjenkjenning, viser en rapport fra borgerrettsorganisasjonen American Civil Liberties Union, som Wired omtalte i sommer. Dette underbygges også av forskning fra prestisjeuniversitetet MIT, som tok for seg AI-løsninger fra selskaper som IBM, Microsoft og Facebook.
Andre opplever suksess
Ny teknologi har det med å skape utfordringer. I dag er bruk av kunstig intelligens en av de mest synlige og hypede blant teknologitrendene, med nærmest uendelige bruksområder.
Flere opplever tidlig suksess med bruk av kunstig intelligens. Denne uken slo Gartner fast at det definitivt gjelder innen e-handel. De viser til en egen undersøkelse der 70 prosent av virksomhetene som er spurt oppgir at satsingen er svært eller ekstremt vellykket.
Analysebyråets spådom er at AI innen år 2020 vil være i bruk av minst 60 prosent av alle virksomheter som driver med digital kommersiell virksomhet, samt at slik teknologi vil stå for hele 30 prosent av inntektsveksten.
