Mytiske monstre, farlige asteroider og spådommer om verdens endelikt spys ut i stort tempo på Tiktok med hjelp av KI-teknologi, ifølge forskere.

Tilgangen på gratis eller billige hjelpemidler med kunstig intelligens (KI) gjør det lett å nå store seerskarer på den populære tjenesten Tiktok.

Ifølge den frivillige organisasjonen Media Matters tjener skapere penger på å lage virale videoer med høyst udokumenterte påstander. Som at amerikanske myndigheter i en dypt hemmelig operasjon har fanget og oppbevarer mytiske monstre som King Kong.

Asteroider er skjulte romskip

Andre kilder har identifisert en rekke oppsiktsvekkende påstander på Tiktok: Som at månelandingen var en bløff iscenesatt av Nasa. At det er Illuminati som kontrollerer verdensøkonomien og politikken i hemmelighet. Eller at asteroider egentlig er romskip fra en annen sivilisasjon som overvåker jorden.

Videoene, som kan samle flere millioner seere, benytter ofte KI-genererte stemmer med skummel musikk i bakgrunnen. Noen ganger er det de kunstige stemmene til kjendiser som leser kommentarene, ifølge nyhetsbyrået AFP.

– Vi kommer alle til å dø

I en viral video er det podkaststjernen Joe Rogan som «sier»:

– Vi kommer alle til å dø snart. En asteroide er på kollisjonskurs med jorda, sier stemmen som hevder at dette er en lekkasje fra en offentlig tjenestemann som kom over en mappe merket «Må holdes hemmelig for offentligheten».

Minst én konto som delte denne videoen, har tatt den ned etter at AFP tok kontakt med Tiktok for en kommentar.

Lønnsomt å lage tull

– Videoer med konspirasjonsteorier blir ofte lastet opp på anonyme kontoer. Ofte bærer de preg av å være laget med kunstig intelligens med kjennetegn som ekstra fingre eller forstyrrelser i bildet, sier desinformasjonsforsker Abbie Richards.

Hun legger til at det å spre slike teorier kan være innbringende med Tiktoks kreativitetsprogram som betaler skaperne for innhold på plattformen. Det har skapt en egen industri av videoer med konspirasjonsteorier som er produsert med KI-redskaper som tekst-til-tale. Disse redskapene er lett tilgjengelige og gratis på nettet.

– Luker unna 95 prosent

En talskvinne for Tiktok avviser at brukere kan tjene store penger på å produsere konspirasjonsteoretiske videoer.

– Skadelig desinformasjon er forbudt. Våre sikkerhetssystemer stanser 95 prosent av dette før det blir publisert, sier hun til AFP.

Men på Youtube ligger opplæringsvideoer for hvordan å tjene penger på Tiktoks kreativitetsprogram. I en av videoene oppfordres brukerne til å lage opprørende historier. Et eksempel er å fortelle at forskere har fanget og gjemt en sabeltanntiger.

Bare nasjonal sikkerhet

EU vedtok nylig regelverket Digital Services Act (DSA) for å presse selskaper som Tiktok fra å bruke falske video- og lydopptak i såkalte deepfakes i forbindelse med valg.

I den amerikanske debatten om å forby Tiktok hvis ikke selskapet selges fra de kinesiske eierne, er ikke desinformasjon en del av diskusjonen. Den handler kun om amerikansk nasjonal sikkerhet.

– Desinformasjon burde være en del av debatten om Tiktok, sier medieprofessor Aynne Kokas.

Galt å bare gå etter Tiktok

Både unge brukere og andre medieforskere mener det blir galt å forby Tiktok på grunn av innholdet.

– Det er mye desinformasjon på Tiktok, akkurat som på mange andre medieplattformer. Noe av denne desinformasjonen er farlig. Men det er ikke fornuftig å forby Tiktok, sier Jameel Jaffer som leder Knight First Amendment Institute ved Columbia University.