Deepfake-porno er bilder eller videoer der ansiktene til enkeltpersoner er digitalt redigert på andre pornografiske bilder eller videoer ved hjelp av kunstig intelligens. Bildene er altså ikke ekte.
En sørkoreansk kringkaster skrev i august om hvordan universitetsstudenter drev et ulovlig chatterom på appen Telegram, der de delte deepfake-porno som avbildet deres kvinnelige klassekamerater.
En rekke lignende høyprofilerte saker har utløst sinne i befolkningen. Det er blant annet delt deepfake-porno som avbilder tenåringer.
WSJ: Apple og Nvidia i samtaler om Open AI-investering
88 varsler på én uke
– I lys av disse deepfake-forbrytelsene startet Sør-Koreas nasjonale politienhet en granskning av Telegram forrige uke, opplyser polititopp Woo Jong-soo, som sier meldingstjenesten anklages for å være medskyldig i spredningen av slike bilder og videoer i landet.
– Telegram har ikke respondert på våre forespørsler om å få utdelt opplysninger om kontoene som er brukt i forbrytelser som kan kobles opp mot Telegram, sier Woo.
Forrige uke alene mottok sørkoreansk politi 88 varsler om deepfake-porno, der 24 mistenkte er identifisert.
Fransk etterforskning
Sør-Koreas Telegram-granskning skjer etter at Pavel Durov, grunnlegger og sjef for meldingstjenesten, ble pågrepet i Frankrike i slutten av august.
Franske myndigheter mener at Telegrams manglende moderering og samarbeid med myndighetene gjør selskapet medskyldig i narkotikahandel, overgrep og bedrageri.
Sørkoreansk politi har sagt de ønsker å samarbeide med franske myndigheter i granskningen av Telegram. Telegram har foreløpig ikke kommentert saken.
FN: KI kan misbrukes til å fornekte jødeutryddelsene
Epidemi av sexforbrytelser
Aktivister sier Sør-Korea lider av en epidemi av digitale sexforbrytelser, deriblant hendelser med skjulte kameraer og hevnporno, og at lovverket ikke er strengt nok.
Gjerningspersoner bak deepfake-porno har angivelig brukt sosiale medieplattformer som Instagram for å stjele bilder av ofre, som deretter blir digitalt redigert for å lage falskt pornografisk materiale.
Sør-Koreas president Yoon Suk-yeol er blant dem som har tatt til orde for en skikkelig granskning av økningen i digitale sexforbrytelser.
Datatilsynet: Tvilsomt om Facebooks nye KI-grep er lovlig
