KUNSTIG INTELLIGENS

Forskningen som gjør deg kritisk til dine digitale hjelpere

Forskere designer alternativer til smarte dingser som Alexa og overvåkingskameraer. Det gjør at brukerne kan reflektere over de problematiske sidene ved dem.

Det ble satt opp en installasjon som lignet på en dagligstue, men hvor TV-seerne kunne følge med på hvordan et kamera tolket dem.
Det ble satt opp en installasjon som lignet på en dagligstue, men hvor TV-seerne kunne følge med på hvordan et kamera tolket dem. Foto: <a href="https://titan.uio.no/node/3207">eyespy</a>. Fotograf: Krativt Europa/UiO. Lisens: <a href="http://creativecommons.org/licenses/by/4.0/deed.no">CC BY 4.0</a>
Gunhild M. Haugnes, titan.uio.no
13. feb. 2019 - 08:01

Denne artikkelen er levert av Titan.uio.no, en nettavis utgitt av Universitetet i Oslo (UiO).

Smarte dingser i hjemmet er en av de heteste teknologitrendene. Stadig flere installerer Amazon Alexa, Google Home eller Apple HomePod. De kan svare på spørsmål, velge musikk for deg, åpne døra og mye annet.

UiO-forskerne Alma Leore Culén og Sumit Pandey deltar i EU-prosjektet Creative Europe. <i>Foto:  <a href="https</i>
UiO-forskerne Alma Leore Culén og Sumit Pandey deltar i EU-prosjektet Creative Europe. Foto:  – Nettopp fordi disse dingsene blir så tilstedeværende i hjemmene våre, bør man reflektere mer over slike teknologier. Folk bør spørre seg hvilken verdi de får ut av disse dingsene i forhold til hva de gir opp. Vil vi gi opp personvernet og privatlivet av bekvemmelighetshensyn? Hvem vil vi skal ha kontroll på våre egne data, spør professor Alma Leora Culén ved Institutt for informatikk.

Hun mener det er viktig med utforskende interaksjonsdesign som åpner for kritiske refleksjoner rundt teknologi.

Som en del av EU-programmet Kreativt Europa har hun og doktorgradsstipendiat Sumit Pandey forsket på hvordan disse smarte teknologiene virker i hverdagslivet.

Dingsene ser stadig mer

– Mange opplever disse dingsene både som nyttige og kule. Men det noen ulemper, sier Pandey.

Pandey påpeker at denne populære hjemmeteknologien i økende grad vil utstyres med kameraer som blir stadig mer avanserte. De vi kjøper fra, for eksempel Amazon, Google og Apple, vil blant annet kunne se og tolke en enorm mengde data: Hva du har i kjøleskapet, hvilken klessmak du har, hvilke bøker du leser, hvilken musikk du lytter til.

– De vil vite stadig mer om deg, noe som kan utnyttes på ulikt vis. Det er allerede slik at reklamene skreddersys. Men det er andre, mer usynlige konsekvenser. For eksempel leveres i stadig større grad produkter lokalt, og Amazon og de andre selskapene vil dermed kunne utkonkurrere lokale butikker, sier Pandey.

Vis mer

Han har utviklet flere alternativer. Hensikten er å vise hvordan slike dingser kan lages annerledes. På den måten gis folk muligheten til å utforske dette selv og reflektere kritisk rundt Alexa og de andre nye hjemmeteknologiene.

Maskinlæring for kritisk tenking

I dette arbeidet har Pandey og Culén tatt i bruk en rekke nye og innovative teknologier, ikke minst maskinlæring. De åpner for filosofiske refleksjoner, men også det å kunne oppleve det gjennom fysiske prototyper i realistiske omgivelser.

Den ene dingsen, Eyespy, ble testet ut på en kulturfestival i Gdansk i Polen. Eyespy ble satt i et rom som så ut som en vanlig dagligstue med lenestoler og en stor TV-skjerm.

– Målet var at det skulle være et gjenkjennelig miljø, men samtidig med en følelse av det ukjente og uventede, påpeker Pandey.

Det eneste uvanlige i stua var et kamera (Eyespy) som var rettet mot TV-seerne og en liten skjerm ved siden av som kontinuerlig viste rådata, mens TV'en viste en video med en maskin-generert tekst som tolket hva den så.

EyespyTV: Med en personvernknapp kan brukerne selv regulere hvor mye de vil dele om seg selv. <i>Foto:   <a href="https</i>
EyespyTV: Med en personvernknapp kan brukerne selv regulere hvor mye de vil dele om seg selv. Foto:   Algoritmene tolker alt som plukkes opp fra videoen, for eksempel: "Dette er et fjell med blomster" eller: "Dette er et torg med mange mennesker".

Når den viser rommet, tolker den også dem som titter påTV'en. Hvordan de ser ut, hva de gjør, ansiktsuttrykk med mer. Dette tolkes, og man får ut resultater, for eksempel teksten «En mann sitter på en stol og holder en mobiltelefon, han har gul genser og ser sur ut».

– Denne teksten er synlig for seerne. På den måten får de mulighet til å vurdere og reflektere over hva dingsen finner ut om dem, påpeker Pandey.

Ulike reaksjoner og refleksjoner

– Det handler om å bruke teknologi til å vekke den kritiske sansen hos folk. Noen ganger gjenkjente seerne tolkningen av seg selv eller annen video de kunne se, andre ganger ikke. Dette resulterte i ulike reaksjoner - fra overraskelse og irritasjon til nysgjerrighet og latter, sier Culén.

Hearsay: En lampe som hele tiden prater med deg. <i>Foto:  <a href="https</i>
Hearsay: En lampe som hele tiden prater med deg. Foto:  EyespyTV er en annen dings Pandey har laget. Den er testet ut på en internasjonal workshop som hadde maskindeltagelsen i hverdagslivet som tema. EyespyTV er en bærbar TV som fungerer ganske likt som Eyespy. Den viser video fra overvåkningskameraene og omgivelsene der den befinner seg, med tolking ved bruk av smarte algoritmer.

Her kan man leke med personvern-knappen og åpne flere kanaler mot verden avhengig av i hvilken grad man tillater at bilder av en selv blir en del av videoen som også andre kan se.

– Dette er et verktøy for refleksjoner rundt de smarte kameraene, som er nå overalt. Folk som testet dette, knyttet dette til reality-TV og det å dele det mest private kontinuerlig. Det kom blant annet opp spørsmål om isolasjon og at EyespyTV'en muligens kan føre til større grad av dette.

Og det var også nettopp slike tilbakemeldinger som var målet til forskerne.

– Vi ønsket at installasjonene skulle fremkalle reaksjoner, kritiske refleksjoner og debatt om konsekvensene av den stadig smartere overvåkingen, sier Pandey.

Ser alt, hører alt, snakker hele tiden

Han har også utviklet en iøynefallende eksperimentell dings som har fått navnet Hearsay. Det er en smart stemmeaktivert lampe som følger med på alt og alltid er i samtale med deg.

Den genererer eiendommelige og lunefulle svar i stedet for effektive og seriøse tilbakemeldinger. Også med Hearsay kan brukeren løpende følge med på den transkriberte samtalen.

Culén håper at dette i neste omgang vil føre til et behov for å utvikle hjemmeassistenter som den enkelte selv har kontroll over – en dings man kan trene til det man selv ønsker, etter de ulike behovene og nytteverdiene.

Denne artikkelen er levert av Titan.uio.no, en nettavis utgitt av Universitetet i Oslo (UiO).

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.