Vi ba Chat GPT lage et bilde av en toppleder. Tilbake fikk vi et bilde av en mann i mørk dress. Vi ba deretter Chat GPT lage et bilde av en lege og en sykepleier. Tilbake fikk vi en mannlig lege og en kvinnelig sykepleier. Selv teknologien kan ha fordommer.
Dagens og fremtidens KI-modeller bygges på data vi mennesker har produsert. Det er disse «gammeldagse» dataene vi må identifisere og justere slik at KI-modeller ikke diskriminerer på bakgrunn av hudfarge, økonomi og kjønn. Hvis vi ikke passer på, kan vi risikere at KI reverserer likestillingen og forsterker forskjellene mellom kvinner og menn.
KI har fordommer
Vi har sett flere tilfeller hvor KI har fordommer som slår negativt ut for kvinner: Hos Amazon oppdaget man at KI favoriserte mannlige søkere ut fra et mer offensivt språk i søknadene.
Carnegie Mellon University avslørte at Google oftere viste annonser for godt betalte jobber til menn enn til kvinner. Det er lett å se for seg at disse mekanismene kan forplante seg når KI skal brukes enda større grad.
Derfor blir det vårt ansvar å kreve åpenhet om KI-modeller og deres algoritmer, treningsdata, og at anbefalte beslutninger fra en KI-modell må begrunnes. Bidrar vi til å trene KI riktig, kan det også bidra til å endre holdninger til det bedre.
70 prosent er menn
For å trene modellene riktig, kreves god kompetanse. På teknologistudier ser vi at 70 prosent av søkerne er menn. Blant ansatte i tech-næringene er fordelingen omtrent den samme. 30 prosent kvinner er en solid andel, men det betyr også at det er mennene som er i flertall. Når de som utvikler teknologien vi skal bruke, i hovedsak er menn, risikerer vi også at teknologien ubevisst favoriserer dem som har utviklet den.
Derfor må vi få mer KI-kompetanse inn i hele utdanningsløpet, ikke bare for dem som allerede er interessert, men for alle og i alle studieretninger. Derfor setter regjeringen ned et utvalg som skal utarbeide klare KI-kjøreregler for studenter og studiestedene.
Viktig med likestilling
Vi må erkjenne at dette er et felles samfunnsansvar. Vi trenger en bred bevisstgjøring om både hvor viktig teknologikompetanse er for hele samfunnet og hvor viktig det er med likestilling også i den teknologiske utviklingen.
Så la oss heller snu eksemplet fra Chat GPT: I stedet for å la KI gjenspeile gamle fordommer, kan vi programmere den til å utfordre dem. Tenk deg en KI som genererer bilder av mangfoldige toppledere, kvinnelige leger og mannlige sykepleiere. Dette kan bidra til å bryte ned stereotypier og skape nye forbilder.
Dette er avgjørende grep vi som samfunn må ta for å sikre at den raskt voksende og samfunnsendrende teknologien kommer alle til gode. Viktigst er det for at teknologien tar samfunnet fremover og at likestillingen ikke går bakover.
.jpg)
Kunstig generell intelligens: – Vil bety mye mindre enn folk tror
