Det blir lettere og lettere å lage gode deepfake-videoer og -lyd, og det blir vanskeligere og vanskeligere å identifisere dem. I januar 2020 annonserte Facebook på sin egen blogg at de gjorde det ulovlig å legge ut deepfake-videoer som ikke var tydelig merket eller var parodi eller satire.
Nå har Facebook og forskere fra Michigan State University kommet ett steg videre i kampen mot deepfake-videoer og falske nyheter. Sammen har de laget et program som bruker kunstig intelligens (AI) for å identifisere om noe er en deepfake-video og hvor den kommer fra, skriver CNBC.
Ifølge CNBC påstår Facebook at programvaren kun ved hjelp av et stillbilde eller en bilderute fra en video kan identifisere om det er en deepfake-video og hvilken AI-modell den kommer fra. Uansett teknikk.
Nokså pålitelig
Dette kan være nyttig teknologi nå som deepfake-video og -lyd blir mer og mer realistiske. Senest i april i år ble deepfake-video brukt til å lure parlamentsmedlemmer i Nederland og Estland til å tro at de videochattet med en ekte person mens det egentlig var en AI-generert person.
Den kunstige intelligensen som nå er utviklet kan se på et bilde og fortelle deg nokså presist hvilken AI som har laget den falske videoen, forteller forskningsleder hos Facebook Tal Hassner til CNBC.
Programvaren er bygget på tidligere forsking gjort på MSU som kan identifisere en kameramodell ved å se på bilder.
Se video: Facebook har laget kunstig intelligens som kan lure ansiktsgjenkjenning
Kan bekjempes
Selv om programmet til Facebook og MSU fungerer uavhengig av teknisk løsning, er det hovedsakelig bygget for deepfake-videoer som manipulerer allerede eksisterende innhold. Programmet kan også ha noe dårligere ytelse når det analyserer videoer der det kun er områder som er analysert.
Hassner innrømmer at selv om programvaren er god, er det nok mulig å klare å omgå den.
– Om det er mulig å slå vårt system? Det vil jeg anta, forteller han til CNBC.
Det er foreløpig uklart om Facebook kommer til å bruke programvaren på sine plattformer.
Forsker: Politikere må innse trusselen fra deepfakes
