Monet asiantuntijat ovat varoittaneet tekoälyn luomien videoväärennösten aiheuttamasta riskistä muun muassa poliitikoille ja demokratian toimivuudelle. Teknologian kehittyessä feikkivideoita on yhä vaikeampi erottaa todellisista tuotoksista.
Kuluvan vuoden aikana saataville on tullut helppokäyttöisiä tekoälytyökaluja, jotka voivat siirtää kuvan perusteella henkilön aikuisviihdemateriaaliin tai simuloida tämän alastonta vartaloa.
Analyytikko Genevieve Oh sanoo Washington Post -lehdelle, että feikkialastonkuvien määrä on kasvanut yli 290 prosenttia vuoden 2018 jälkeen. Häiriköinti on kohdistunut julkisuuden henkilöiden ohella myös nuoriin.
Teiniuhreilta on yritetty kiristää materiaalilla rahaa. Kuva- ja videomateriaalia käytetään useimmiten kiusaamiseen tai ahdisteluun.
Uudenlaiseen materiaaliin on vaikea puuttua, sillä esimerkiksi Yhdysvalloissa pornografista deepfake-materiaalia ei mainita lainsäädännössä. Tuoreessa tekoälyasetuksessa yrityksiä vain suositellaan lisäämään kuviin, videoihin ja ääneen maininta siitä, että kyseessä on tekoälyn luoma materiaali.
Tekoäly hyödyntää miljoonien kuvien aineistoa, joten tekijänoikeudetkaan eivät yleensä päde.
– Tämä on selvästi hyvin vakava ongelma, San Franciscon yliopiston oikeustieteen professori Tiffany Li sanoo.