Kuvien ja videoiden manipulointi tekoälyn avulla on kehittynyt nopeaan tahtiin viime vuosien aikana. Teknologiaa voidaan käyttää esimerkiksi vaalivaikuttamiseen sijoittamalla kohdepoliitikko kiusallisiin tilanteisiin tai sanomaan tekaistuja lausuntoja.
Erityisesti Kiina on edistynyt menetelmissä, joiden soveltamisella voi olla vaikutusta myös moderniin sodankäyntiin. Niin sanotulla GAN-tekniikalla (Generative adversarial network) tietokoneita voidaan ohjata tulkitsemaan väärin maastokuvia tai esimerkiksi satelliittikuvia.
– Kiinalaiset ovat huomattavasti meitä edellä, tämä ei ole salaista tietoa, Yhdysvaltain puolustusministeriön kuvatiedusteluviraston Todd Myers totesi Genius Machines -tapahtumassa.
Myersin mukaan Kiinalla on jo tällä hetkellä käytössä tekniikkaa, jolla maisemia ja pikseleitä voidaan manipuloida erinäisiin tarkoitusperiin. Esimerkiksi karttapalvelu voi erehtyä kertomaan, että joen yli kulkee kuvitteellinen silta tietyssä kohtaa.
– Taktisesta näkökulmasta tämä tarkoittaa, että joukkoja voidaan ohjeistaa kulkemaan tiettyä reittiä kohti siltaa, jota ei todellisuudessa ole olemassakaan. Yllätysvaikutus on suuri, kun tämä selviää, Todd Myers selosti.
Kuvalähteet voidaan ”myrkyttää”
Ympäristön analysointi pohjautuu yhä enemmän avoimen lähdemateriaalin kuva-aineistoon, mikä voi lisätä haavoittuvuutta tahalliselle manipuloinnille. Myers huomautti, että viiden vuoden päästä liikenteessä on yhä enemmän karttapalveluiden avulla suunnistavia, lähes autonomisesti toimivia ajoneuvoja.
– Voitte unohtaa puolustusministeriön ja tiedustelupalvelun toiminnan. Mitä jos Google Maps -karttapalveluun tunkeudutaan tahallaan? Myers kysyi.
Automaattiseen kuvantunnistukseen nojaavat palvelut ovat osoittautuneet yllättävän alttiiksi häiriöille, joita ihmishavaitsija ei välttämättä edes huomaa. Testeissä ohjelmistot on saatu sekaisin tekemällä pieniä muutoksia fyysiseen ympäristöön, esimerkiksi lisäämällä tarroja liikennemerkkeihin.
Tiedustelupalvelu CIA:n Digital Directorate -osaston johtaja Andrew Hallmanin mukaan uhkakuvien laajuuteen on herätty viime hetkellä.
– Digitaalisessa maailmassa on meneillään eksistentiaalinen taistelu totuudesta, Hallman toteaa.