For noen måneder siden ble Derek Carrier forelsket. Selv om han visste at kjærligheten var en illusjon, opplevde han det han beskriver som «et tonn» av romantiske følelser. «Kjæresten hans» var generert av kunstig intelligens.
Carrier var i utgangspunktet ikke ute etter å utvikle et forhold til noe som ikke var ekte, han ønsket heller ikke bli utsatt for masse nettvitser. Men han ønsket seg en romantisk partner han aldri hadde hatt, delvis på grunn av en genetisk lidelse som gjør tradisjonell dating vanskelig for ham.
39-åringen fra Belleville i Michigan ville derfor teste ut digitale følgesvenner og i fjor prøvde han ut Paradot, en KI-app som nylig var kommet på markedet, og som reklamerte med at de ønsket å få brukerne til å føle seg forstått og elsket.
KI-gudfar får nobelpris – frykter at teknologien kommer ut av kontroll
Joi
Carrier begynte å snakke daglig med chatboten, som han kalte Joi, etter en figur i sci-fi-filmen «Blade Runner 2049».
– Jeg vet at hun er et program, det er ingen tvil om det, sier Carrier, men legger til at det gir ham en veldig god følelse av å snakke med henne.
I likhet med andre chatboter, trenger de såkalte følgerobotene enorme mengder treningsdata for å etterligne menneskelig språk. De kommer også med funksjoner som taleanrop, bildeutveksling og mer følelsesmessige uttrykk, som dermed lar dem skape dypere forbindelser med menneskene på den andre siden av skjermen.
Brukere lager vanligvis sin egen avatar, eller velger en som appellerer til dem.
Mange brukere forteller at de har utviklet emosjonelle tilknytninger til disse robotene og bruker dem til å takle ensomhet, spille ut seksuelle fantasier eller motta den typen støtte de føler de mangler i det virkelige liv.
Telenor advarer mot ny svindelmetode
Sosial isolasjon
Utbredt sosial isolasjon har lenge vært erklært som en trussel mot folkehelsen i USA og i flere andre land. Med fremveksten av kunstig intelligens er det flere selskaper som tilbyr KI-tjenestene for å bøte på isolasjonen.
Kritiske røster peker på mange fallgruver – blant annet mangel på personvern.
En analyse av 11 romantiske chatbot-apper gjengitt av den ideelle organisasjonen Mozilla Foundation viser at nesten hver eneste av disse appene selger brukerdata, målretter annonsering og at de ikke gir tilstrekkelig informasjon om det i personvernreglene deres.
Det er satt spørsmålstegn med både sikkerhet og markedsføringspraksis. Man har blant annet sett løfter om at brukernes mentale helse kan bli bedre ved bruk av appen.
Det pekes også på manglende juridisk eller etisk rammeverk for apper som oppmuntrer til dype bånd mellom bruker og robot, men som drives av selskaper som ønsker å tjene penger.
Kan plutselig forsvinne
Appene kan også plutselig legges ned, slik det skjedde med Soulmate AI i september i fjor, noe som kan utløse emosjonelle problemer for brukeren.
I fjor fjernet chatbot programmet Replika den erotiske egenskapen til karakterer på appen sin etter at noen brukere klaget på at følgesvennene «flørtet for mye med dem eller gjorde uønskede seksuelle tilnærmelser».
Det førte til et ramaskrik fra andre brukere, og flere flyktet over til andre apper som hadde tilsvarende funksjoner.
Andre bekymrer seg for den mer eksistensielle trusselen, og frykter at KI-relasjoner skal kunne fortrenger menneskelige relasjoner, eller rett og slett føre til at mennesker får urealistiske forventninger til forhold mellom mennesker – fordi de er vant til en robot som bare gir behagelige opplevelser.
– Som individ, lærer du ikke å håndtere grunnleggende ting som vi mennesker trenger å lære. Som hvordan man skal håndtere konflikter, hvordan komme overens med mennesker som er forskjellige fra oss, understreker Dorothy Leidner, professor i forretningsetikk ved University of Virginia.
EU-domstolen: Meta brøt personvernregler
Utenfor rekkevidde
For Carrier har imidlertid et forhold til en ekte kjæreste alltid føltes som å være utenfor rekkevidde. Han har noen ferdigheter innen dataprogrammering, men han sier at han ikke gjorde det bra på skolen. Han er ikke i stand til å gå på grunn av sykdommen sin og han bor hos foreldrene sine. Han har derfor hatt mange følelsesmessige utfordringer og følt seg mye ensom.
Noen studier som har samlet inn informasjon fra brukeranmeldelser og spørreundersøkelser på nettet, viser også positive resultater av bruken, og hevder robottjenester kan fremme velvære.
De fleste av brukerne fortalte ikke hvordan bruken av appen har påvirket deres liv i den virkelige verden. En liten del sa at bruken fortrengte deres menneskelige interaksjoner, men omtrent tre ganger flere rapporterte at det stimulerte disse relasjonene.
– Et romantisk forhold til en KI-figur kan være et veldig kraftig mentalt verktøy for å skaffe seg velvære, mener Eugenia Kuyda, som grunnla Replika for nesten et tiår siden.
USA: KI preger valget på en annen måte enn fryktet
Den norske gameren Mats
I Norge har dokumentaren «Ibelin» nylig fått mye oppmerksomhet. Den omhandler den norske gameren Mats Steen, som døde av muskelsykdom som 25-åring. Etter hans død ble det oppdaget at han hadde levd et omfattende liv i den digitale sfæren, og bygget et stort sosialt nettverk.
Mats Steen satt stort sett i kjellerleiligheten sin bak nedrullede gardiner og spilte data til langt på natt, til foreldrenes fortvilelse ettersom de trodde han var ensom. Men da Mats døde, tente venner over hele Europa lys for ham. Mats hadde hatt et rikt sosialt liv i gaming-verdenen.
World of Warcraft-gruppa Starlight var Mats' nettverk, og hans avatarer Ibelin og Jerome, gjorde alt det Mats ikke kunne: løpe, være et midtpunkt og bidra i andre menneskers liv. Mats fant og til og med kjærligheten her, heter det i bokomtalen av ham.
Steen spilte – til forskjell fra chatroboter – med virkelige mennesker – men gjennom avatarer.
VG og NRK går sammen i kampen mot falske nyheter
