Fremskrittene innen kunstig intelligens har gjort det stadig enklere å lage visuelle forfalskninger, både i bilde- og videoform. Nå foreligger det imidlertid en ny AI-teknologi som skal bidra til å motvirke nettopp dette.
På sin offisielle blogg opplyser Adobe nå at de i samarbeid med forskere fra University of Berkeley har utviklet et system som kan oppdage manipulering av digitale bilder ved hjelp av kunstig intelligens.
Manipulert av Photoshop på egen hånd
Forskernes metode gikk ut på å trene opp et såkalt «Convolutional Neural Network», som er en komplisert type nevralt nettverk inspirert av virkemåten til den delen av hjernen som håndterer prosessering av visuelle inntrykk.
Systemet ble trent opp med et datagrunnlag bestående av et stort antall bilder fra Internett som Photoshop ble satt til å automatisk manipulere via programmets egen «Face Aware Liquify»-funksjon – en funksjon som brukes til å endre ansiktstrekk.
I tillegg til dette ble også en profesjonell digitalkunstner hyret til å manipulere vilkårlige bilder som befant seg i datagrunnlaget. Poenget med å også benytte seg av menneskelig kreativitet var å oppnå større bredde i manipuleringen av bildene.
For å teste systemet ønsket forskerne å sammenligne det med presisjonsnivået til mennesker. Det ble gjort ved å vise bildepar til personer som visste at ett av bildene var digitalt manipulert. Ifølge forskerne var testpersonene i stand til å oppdage den digitale manipuleringen i 53 prosent av tilfellene, som altså kun er litt bedre enn ved ren gjetting.
Oppnådde presisjonsnivå på 99 prosent
Det nye AI-systemet var imidlertid i stand til å oppnå resultater på helt opptil 99 prosent gjennom ulike eksperimenter. I tillegg var verktøyet i stand til å identifisere de spesifikke metodene for endring av ansiktene, og hvilke områder av ansiktet som var manipulert.
Systemet var sågar i stand til å utføre en «angrefunksjon», altså reversere bildene tilbake til sin opprinnelig tilstand – og det med et presisjonsnivå som forskerne selv ikke hadde forventet.
Selv om mye arbeid gjenstår mener forskerne bak det nye prosjektet at verktøyet representerer et stort fremskritt når det gjelder å sette folk i stand til å verifisere autentisiteten til digitale uttrykk.
– Dette er et viktig steg i retning av å kunne oppdage visse typer bilderedigering, og angrefunksjonen fungererer overraskende godt. Utover teknologier som dette er det beste forsvaret et sofistikert publikum som vet at innhold kan manipuleres – noen ganger for å glede, men noen ganger for å villede, sa sjefen for Adobes forskningsavdeling Gavin Miller.
Alle de tekniske detaljene om hvordan systemet fungerer finner du i forskningsdokumentet, og se også presentasjonsvideo under.
Les også: Når skal kunstig intelligens bli gunstig intelligens? »
