Kuva-, video- ja äänimanipulaatioiden on pelätty kehittyvän pian niin uskottaviksi, että niiden kautta voidaan luoda poliittisia skandaaleja tai jopa aseellisia konflikteja.
Tekniikkaa on esillä tuoreessa Hollywood-tuotannossa, jossa näyttelijä Will Smithille luotiin ennennäkemättömällä tarkkuudella digitaalinen kaksoisolento.
Gemini Man -elokuvan 23-vuotiaan ”kloonin” luominen maksoi Financial Timesin mukaan kymmeniä miljoonia euroja. Se oli jopa kaksi kertaa enemmän kuin aidon Will Smithin palkkaaminen. Elokuvassa nähty korkealaatuinen manipulaatio vaati valtavan määrän alan ammattilaisten työaikaa.
Feikkiaineiston luominen onnistuu nykyisin ilman 124 miljoonan euron elokuvabudjettiakin. Tekoälyyn pohjautuvat deepfake-videot ovat yhä laajemmin saatavilla tavallisille kuluttajille ja usein täysin ilmaiseksi.
– Realismin hinta on pudonnut dramaattisesti viimeisten 20 vuoden aikana. Kuluttajaohjelmistoilla voi tehdä nyt asioita, jotka onnistuivat aiemmin vain erikoistehosteisiin keskittyneiltä studioilta. On väistämätöntä, että Gemini Manissa nähty tekniikka muuttuu rutiiniksi seuraavan vuosikymmenen aikana, DNEG-tehosteyhtiön luova johtaja Paul Franklin toteaa.
Feikkimateriaali tuo uusia uhkakuvia vaalivaikuttamiseen, kaupallisiin huijauksiin ja esimerkiksi nettikiusaamiseen. Poliitikot ja muut julkisuuden henkilöt voidaan sijoittaa kiusallisiin tilanteisiin sanomaan fiktiivisiä lausuntoja.
Deeptrace Labs -tietoturvayhtiön arvion mukaan nettiin ladattujen deepfake-videoiden määrä on lähes kaksinkertaistunut viimeisen puolen vuoden aikana vajaaseen 15 000 kappaleeseen. Näistä 96 prosenttia lukeutui aikuisviihteeseen.
Kehitystä on myös verrattu blogien yleistymiseen.
– Deepfake-materiaali on seuraava askel median demokratisoinnin pitkässä ketjussa, Betaworks Ventures -yhtiön sijoittaja Peter Rojas toteaa FT:lle.
