En rapport fra Unesco – FNs organisasjon for utdanning, vitenskap, kultur og kommunikasjon – konkluderer med at kunstig intelligens (KI) kan bidra til misvisende og falske påstander om jødeutryddelsene under andre verdenskrig, ifølge nyhetsbyrået AP.
Enten som følge av svakheter i programmene, eller fordi hatgrupper eller holocaustfornektere bevisst lager innhold som feilaktig stiller spørsmål med drapene nazistene utførte på jøder og andre grupper.
Holocaust er en betegnelse på nazistenes folkemord før og under andre verdenskrig. Mer enn seks millioner jøder ble drept.
Få selskaper lykkes med KI: – Vi ser nå tydeligere et skille
Falske, men realistiske stemmer
En av de største bekymringene er at KI lett kan lage såkalte deepfakes, realistiske bilder eller videoer hvor holocaust blir framstilt som overdrevet eller noe som ikke skjedde.
I rapporten nevnes for eksempel en KI-generert Joseph Goebbels som hevder at han forsøkte å redde liv. Joseph Goebbels var propagandaminister i Nazi-Tyskland, og spilte en nøkkelrolle i å spre nazistisk ideologi og manipulere offentlig opinion gjennom omfattende propaganda.
Ifølge nyhetsbyrået AFP framhever rapporten en deepfake av skuespiller Emma Watson fra Harry Potter-serien som leser høyt fra Hitlers bok «Mein Kampf». Noen programmer med kunstig intelligens gjør det mulig å snakke med interaktive fiktive historiske figurer inkludert Adolf Hitler.
Usannheter om massakre
Rapporten viser til flere eksempler: Den mest kjente KI-tjenesten Chat GPT fant opp et helt nytt konsept – holocaust ved drukning. Googles chatbot Bard har fabrikkert en rekke vitner som støtter opp under usannheter om nazistenes massakre.
– Hvis vi tillater at de grusomme fakta om holocaust blir utvannet, forvrengt eller forfalsket gjennom uansvarlig bruk av KI, risikerer vi en eksplosiv spredning av antisemittisme og en gradvis svekkelse av vår forståelse av årsakene og konsekvensene av disse grusomhetene, sier generaldirektør i Unesco, Audrey Azoulay, i en uttalelse.
Rapporten er laget i samarbeid med World Jewish Congress for å markere Den internasjonale dagen mot hatefulle ytringer. Rapporten oppfordrer regjeringer, teknologiselskap og utdanningsinstitusjoner til handling.
Ny Iphone har kameraknapp
Trenger etiske retningslinjer
De bør innføre etiske retningslinjer for KI-teknologi og innføre opplæring i skolen om risikoen ved KI-generert innhold. Det vises til tilfeller der hackere har satt opp chatbots for å spre nazi-ideologi. Andre boter har funnet opp helt egne historier om holocaust.
Ifølge Karel Fracapane viser forvrengte holocaust-historier hvordan KI kan snu opp ned vårt forhold til sannhet og føre til en oppløsning av demokratisk kultur. Fracapane er Unesco-ekspert på holocaust utdanning.
– Den økende populariteten til ytre høyre-politikere i Vest-Europa er del av de samme prosessene som sprer hatytringer på nettet, sier han til AFP.
Kan gi oppslukende opplevelser
Unesco-rapporten finner også positive sider ved innføring av KI. Algoritmene kan identifisere og sortere ekte vitnemål.
Den kunstige intelligensen kan også se nye mønstre og finne ny innsikt. I skoleverket kan verktøyene gi oppslukende opplevelser til unge mennesker.
– Men akkurat nå representerer KI mer en trussel enn nye muligheter, sier Karel Fracapane.
Høyteknologisk råvare hardt rammet av orkanen Helene
