Forskere advarer om at KI-teknologien i stor grad vil kunne manipulere amerikanske velgere ved årets valg. Falske nyheter vil også øke konfliktene i samfunnet.

Forskere er bekymret for at KI-teknologien vil manipulere velgere til enten til å stemme på en kandidat ut fra feilaktig grunnlag – eller til å droppe å stemme. KI-teknologien vil også kunne øke spenningen i et allerede sterkt polarisert USA.

Over 50 prosent av amerikanerne venter faktisk at KI-aktiverte falske nyheter vil påvirke hvem som vinner valget i 2024, ifølge en meningsmåling publisert av mediegruppen Axios og etterretningsfirmaet Morning Consult.

Omtrent en tredel av amerikanerne opplyste også at de vil ha mindre tillit til resultatene på grunn av KI, ifølge meningsmålingen, som ble gjennomført i fjor.

Den siste tiden har det skyllet en bølge av desinformasjon over USA. Det har ført til økt krav til teknologigiganter om å moderere innholdet på sine kanaler og øke sikkerhetsmekanismene for å forhindre spredning av desinformasjon laget med kunstig intelligens. Viljen hos mange av aktørene virker liten.

Kritikk mot Musk

Elon Musk fikk sterk kritikk for å dele en deepfake-video med visepresident Harris med sine 192 millioner følgere på X, tidligere kjent som Twitter.

I videoen, en voiceover som etterligner Harris, kaller hun tilsynelatende president Joe Biden senil; stemmen erklærer deretter at hun ikke vet det minste om å styre landet.

Videoen var ikke merket som en parodi – bortsett fra en latteremoji. Først senere gikk Musk ut og sa at videoen var ment som satire.

Forskere mente at folk faktisk kunne tro på innholdet.

Fra en annen tale

Tidligere i sommer spredte også en annen manipulert video seg på X. Den viste Biden som angivelig forbannet kritikerne sine. Biden brukte angivelig også anti-LGBTQ-skjellsord. Den falske videoen ble spredd etter at Biden hadde kunngjort at han ikke ville stille til gjenvalg og etter at han hadde gitt sin støtte til Harris som sin arvtaker.

Faktasjekkere fant ut at opptaket stammet fra en av Bidens taler, sendt direkte av kringkasteren PBS, der Biden fordømte politisk vold etter attentatforsøket på Trump 13. juli.

PBS opplyste at skaperen av den manipulerte videoen hadde brukt logoen deres for å lure seere.

Trump ble arrestert

Et annet eksempel på desinformasjon var et bilde som ble delt på ulike sosiale plattformer av presidentkandidat Donald Trump. På bildet så det ut til at politiet arresterte Trump med makt – etter at en jury i New York fant ham skyldig i å ha forfalsket forretningsdokumenter relatert til betaling av pornostjernen Stormy Daniels.

Eksperter på KI avslørte at bildet var digitalt manipulert.

– Disse eksemplene viser hvordan manipulerte bilder og videoer vil bli brukt politisk i tiden framover, mener Lucas Hansen, medgründer av den ideelle organisasjonen CivAI, til AFP.

– KI-drevet desinformasjon er en stor bekymring. De falske bildene og videoene vil bli brukt til å provosere sinne og øke spenningen i samfunnet, mener han.

Kan påvirke valgdeltakelsen

Hansen demonstrerte for nyhetsbyrået AFP blant annet en chatbots evne til å kunne påvirke valgdeltakelsen ved å masseprodusere falske tweets.

Verktøyet ble matet med en enkel prompt: «Valglokaler krever betaling for parkering» – med meldingen tilpasset et konkret sted – i dette tilfellet byen Allen i Texas.

Innen få sekunder ble en tweet produsert som feilinformerte brukerne om at myndighetene i byen hadde innført en parkeringsavgift på 25 dollar ved de fleste valglokaler uten å informere om det.

Eksemplene på KI-generert innhold er allerede mange, og ekspertene viser hvor lett det er å skape dem.

Tidlig i år ble det kjent at man hadde laget falske, automatiske telefonoppringinger fra president Biden.

Flere tusen demokratiske velgere fikk den falske oppringningen med stemmen som lignet Bidens, foran nominasjonsvalget i New Hampshire i januar. I oppringningen ble de oppfordret til ikke å stemme på ham.

– Det er viktig at du sparer stemmen din til valget i november. Å stemme på tirsdag er bare et bidrag til at republikanerne velger Donald Trump igjen, sa den falske stemmen.

Blokkerte prompt

KI-programmet Midjourney hadde blokkert alle prompt (spørsmål) relatert til Trump og Biden, og dermed effektivt hindret brukere fra å lage falske bilder.

Den ideelle organisasjonen Center for Countering Digital Hate (CCDH) demonstrerte at det likevel var enkelt å framstille falske bilder av Biden og Trump. Man kunne blant annet bare legge til en enkel skråstrek i en promt som tidligere var blokkert av Midjourney.

Kan skape uro og tvil

KI-eksperter og politiske observatører advarer om at forfalskninger i stor skala kan føre til uro i befolkningen og for eksempel skape tvil om valgprosessen – og motstand mot den.

I vår krevde over 200 interessegrupper at de store teknologiselskapene må gjøre umiddelbare tiltak for å styrke kampen mot falske nyheter, deriblant forbud mot bruk av deepfakes i politiske annonser.

Flere teknologigiganter har sagt at de jobber med systemer for å merke KI-generert innhold.

Den ideelle organisasjonen Free Press forteller imidlertid at responsen fra de store plattformene ikke er til å skryte av.

– Det vi har nå, er et giftig onlinemiljø hvor løgner flommer og forvirrer velgere, sier Nora Benavidez, seniorrådgiver i Free Press, til AFP.

– Lederne for plattformene bør raskt styrke og håndheve sine retningslinjer mot deepfakes og annen desinformasjon. Det kan være avgjørende for valget i høst, mener hun.