Indiske Vishnu Mohandas, en tidligere softwareingeniør i Google, håper folk får øynene opp for hvor mye Google eller andre selskaper som utvikler kunstig intelligens kan lære om dem når de laster opp bilder til en skytjeneste. For å illustrere dette har han opprettet nettstedet theyseeyourphotos.com.
Det skriver teknologimagasinet Wired.
Vishnu Mohandas sluttet i jobben sin hos Google Assistant da han ble klar over at teknologigiganten hjalp det amerikanske forsvaret med å utvikle kunstig intelligens for å analysere dronebilder. Samtidig sluttet han å bruke Google Foto, som benytter skyteknologi for lagring av bilder, fordi han ikke var sikker på hvordan bildene kunne bli brukt i fremtiden.
Derfor opprettet han den åpne, ende-til-ende-krypterte tjenesten Ente som et alternativ til Google. Ut av dette prosjektet kom også nettstedet theyseeyourphotos.com. Nettstedet bruker et bildeanalyseverktøy basert på Google Cloud Computer Vision (Google Vision API) for å generere en «forbløffende grundig» beskrivelse av opplastede bilder. Beskrivelsen består av tre avsnitt.
Du som leser dette kan teste det selv her – det har undertegnede gjort, og resultatet er oppsiktsvekkende.
Da Vishnu Mohandas først testet tjenesten, brukte han et selfie som inkluderte ham selv, kona og datteren foran et tempel i Indonesia. Tjenesten klarte blant annet å gjenkjenne konas Casio F-91W-klokke, som i beskrivelsen ble assosiert med islamistisk ekstremisme.
– Vi måtte tilpasse prompten for å gjøre den litt mindre skremmende, men fortsatt tankevekkende, sier Vishnu Mohandas til Wired. Derfor endret han programmet til å generere korte, objektive beskrivelser uten referanser til ting som islamistisk ekstremisme.
Nå er beskrivelsen av det samme selfiet mer generell. Den inkluderer blant annet templets navn, en beskrivelse av omgivelsene og været. Likevel inneholder den vurderende utsagn som at familiens ansikter uttrykker «felles tilfredshet», og at «foreldrene sannsynligvis er av sørasiatisk opphav og middelklasse,» skriver Wired.
Det samme var tilfellet da en journalist testet tjenesten.
Vishnu Mohandas påpeker at bilder avslører hvem folk er, og hva som gjør dem glade eller triste. Han bruker sin egen datter som eksempel.
– Denne informasjonen kan brukes til å manipulere henne flere tiår frem i tid – av hvem som helst som har tilgang til disse dataene: annonsører, datingnettsteder, arbeidsgivere og industrier som ennå ikke eksisterer, men som kan dra nytte av psykologiske profiler, sier Vishnu Mohandas til Wired.
Artikkelen ble først publisert på Version 2.
Tilbakekaller «verdens første KI-dings» – kan begynne å brenne
