Asiantuntijat ovat varoittaneet jo vuosia yhä uskottavampien feikkivideoiden ja kuvamanipulaatioiden yleistymisestä.
Tuoreimpana esimerkkinä on näyttelijä Tom Cruisesta levinnyt videosarja. Se on kerännyt jo yli 11 miljoonaa katsojaa TikTok-palvelussa.
Videoissa Cruiselta näyttävä henkilö tekee taikatemppuja, pelaa golfia ja muistelee tapaamista Neuvostoliiton entisen johtaja Mihail Gorbatshovin kanssa.
Niin sanotuissa deepfake-videoissa hyödynnetään koneoppimista hämmentävän realististen videoiden tuottamiseksi. Niiden pelätään nousevan tehokkaaksi aseeksi muun muassa politiikassa.
Verkkoturvallisuusyhtiö SocialProofin toimitusjohtaja Rachel Tobac arvioi teknologian kehittyneen uhkaavalle tasolle. Hänen mukaansa manipuloidun median tunnistamiseen tarvitaan pikaisesti uusia työkaluja.
– Deepfake-videot tulevat vaikuttamaan yhteiskunnalliseen luottamukseen. Ne voivat tarjota uuden selityksen rikollisille, jotka jäävät kiinni videoille tai ääninauhoitteille. Niitä voidaan käyttää manipuloinnissa, nöyryyttämisessä ja ihmisen loukkaamisessa, Tobac kirjoittaa Twitterissä.
2 years ago on stage I was asked “when will Deepfake video/audio impact trust & be believable in social engineering?” My response then was that we were 2 years away from undetectable Deepfakes. I wish my prediction then was wrong. We need synthetic media detection + labels ASAP. pic.twitter.com/yUUOTDepYY
— Rachel Tobac (@RachelTobac) February 26, 2021