Cyberkriminelle tar som kjent i bruk mange metoder i sine lyssky aktiviteter, og et av de foreløpig mer uvanlige våpnene er kreativ bruk av kunstig intelligens. Det har vi nå fått et nytt, skremmende eksempel på, rapporterer Forbes.
I det som er en sak av de heller sjeldne ble hele 35 millioner dollar – litt i underkant av 300 millioner kroner – stjålet ved hjelp av en sleip svindelmetode som baserte seg på kunstig intelligens-teknologi.
Stemmebasert «deepfake»
Det spektakulære tyveriet fant sted i De forente arabiske emirater i fjor og ble kjent etter at Forbes gravde opp et rettsdokument hvor amerikanske myndigheter ble bedt om å hjelpe til med å spore opp en del av tyvegodset som ble sendt til bankkontoer i USA.
Tyveriet skjedde ved at gjerningspersonene benyttet AI-basert «deepfake»-teknologi til å etterligne stemmen til direktøren i et større selskap i landet.
Med den falske stemmen ringte gjerningspersonene opp en avdelingsleder i en annen del av selskapet for å informere om at selskapet var i ferd med å gjennomføre et stort oppkjøp.
For å gjennomføre oppkjøpet ba den AI-genererte stemmen avdelingslederen om en overføring på 35 millioner dollar til et antall ulike bankkontoer. Avdelingslederen kjente stemmen til direktøren og antok at forespørselen var legitim.
I tillegg ble det sendt tilsynelatende autentiske e-poster fra direktørens kontor til avdelingslederens innboks, og på bakgrunn av dette ble den store pengeoverføringen iverksatt. Kontoene som pengene ble overført til, tilhørte altså gjerningspersonene.
Sjeldent, men ikke unikt
– Emiratenes etterforskning viste at de tiltalte brukte «deep voice»-teknologi til å simulere stemmen til direktøren, heter det i rettsdokumentet.
«Deepfake»-fenomenet assosieres vanligvis med levende bilder av personer, ofte av svært overbevisende art, men det finnes altså også en audiobasert utgave av teknologien som er vesentlig mer sjelden.
Digi.no rapporterte om det som trolig er det eneste andre kjente tilfellet av svindel med stemmebasert «deepfake»-teknologi. I 2019 klarte tyver å stjele 240.000 kroner – cirka 2,1 millioner kroner – ved å etterligne stemmen til en toppsjef i et britisk energiselskap.
Sikkerhetsselskapet Symantec sa i 2019 at de hadde observert tre lignende tilfeller av svindel via «deep voice»-teknologien, noe blant annet BBC har skrevet om. Sikkerhetsselskapet mener AI-systemene trenes opp med store mengder lyd som sjefene har gjort tilgjengelig på ulike måter, for eksempel via medieopptredener, investortaler, konferanser og presentasjoner.
Ifølge Symantec kan modellene som trenes opp på denne måten med kunstig intelligens, bli tilnærmet perfekte.
EU vil slå knallhardt ned på bruk av kunstig intelligens til å hente inn data om mennesker
