Tekoälyteknologian nopea kehitystahti on herättänyt huolia poliittisesta manipuloinnista ja entistä vaikeammin havaittavista huijauksista.

Tekoälyn luomaa feikkivideota käytettiin hiljattain Hongkongissa yli 20 miljoonan euron arvoisessa huijauksessa. Rikolliset käyttivät videopuhelussa niin sanottua deepfake-väärennöstä uhrin kollegoista. Huijaus oli ollut uskottava, sillä työntekijä oli luullut henkilöitä esimiehikseen. Yhtiön talousjohtaja työskenteli Britanniasta käsin.

Yhdysvalloissa on kerrottu tapauksesta, jossa New Yorkin Brooklynissa asuva pariskunta oli saanut keskellä yötä puhelun.

Luksuskotien sisustussuunnittelijana työskentelevä Robin katsahti kännykkäänsä ja huomasi soittajan olevan hänen anoppinsa Mona.

– En voi tehdä sitä, en voi tehdä sitä, Monalta kuulostava ääni sanoi New Yorker -lehden mukaan.

Robin ajatteli, että anoppi oli luultavasti joutunut jonkinlaiseen onnettomuuteen. Taustalla kuuluva ääni kuulosti Monan aviomieheltä Bobilta, joka kehotti Robinia hakemaan paikalle hänen aviomiehensä Steven.

Steve otti puhelimen ja kuuli rauhallisen miesäänen, joka kehotti olemaan soittamatta poliisille. Mies kertoi tähtäävänsä aseella Steven äidin päätä.

Poliisina työskentelevä Steve soitti omalla puhelimellaan kollegalle, jolla oli kokemusta panttivankineuvotteluista. Hän mykisti puhelun, jotta kollega kuuli toisen keskustelun. Kollega kehotti jatkamaan puhelua mahdollisesti hyödyllisten tietojen saamiseksi.

Mies kertoi haluavansa 500 dollaria Venmo-mobiilimaksupalvelun kautta.

– Se tuntui mielipuolisen pieneltä rahasummalta ihmishengestä. Mutta ajattelin, että maksan tietysti tämän, Steve muistelee.

Puhelua kuunnellut Robin pohti, että joku oli luultavasti murtautunut Steven vanhempien kotiin ja päättänyt hyödyntää tilannetta saadakseen rahaa.

Rahojen siirtämisen jälkeen naisääni ilmoitti, ettei summa riittäisikään. Steve lähetti vielä 250 dollaria, sillä vaatimuksia esittänyt mies sanoi tarvitsevansa rahaa naisystävänsä matkakustannuksiin. Poliisin kollega sanoi tilanteen päätyttyä pariskunnan pärjänneen hienosti.

Steve soitti vanhemmilleen, jotka kertoivat olevansa kotona ja ihmettelivät yöllistä puhelua. Newyorkilainen pariskunta oli joutunut uuden tekoälyhuijauksen kohteeksi, jossa teknologiaa käytetään henkilön omaisten äänen imitoimiseksi.

– Käytännössä kenen tahansa äänen voi kloonata ja laittaa sanomaan mitä vain. Ennakkovaroitukset käyvät nyt toteen, Kalifornian yliopiston tekoälytutkija Hany Farid toteaa.