Googlen tekoälyä ei kannata käyttää tekoälyllä luotujen kuvien tunnistamisessa. Todellisuudessa toiminto tekee tekoälykuvien tunnistamisen entistä vaikeammaksi. Tällaiseen tulokseen päätyi faktantarkastussivusto Faktabaari tekemänsä selvityksen perusteella.
Käänteinen kuvahaku on faktantarkistajien, journalistien ja tavallisten käyttäjien keskeinen työkalu sosiaalisessa mediassa leviävien kuvien ja videoiden selvittämisessä. Faktabaari testasi, miten Googlen AI-yhteenveto toimii tilanteissa, joissa hakuun syötetään tekoälyllä tehtyjä kuvia.
Tekoäly erehtyi lähes kaikissa testeissä
Tulokset olivat huolestuttavia. Faktabaari käytti testissä kymmentä kuvaa, joista yhdeksän oli kansainvälisten faktantarkistajien aiemmin vääriksi toteamia tekoälykuvia. Kymmenes oli Faktabaarin itse luoma tekoälykuva.
Googlen AI-yhteenveto tai tekoälytila antoi oikeaa tietoa vain yhdessä tapauksessa kymmenestä.
Testissä oli mukana muun muassa kuvia Intian pääministeristä Narendra Modista kookospähkinäviljelmällä, Unkarissa väitetysti pysäytetyistä ukrainalaisista rahankuljetusautoista sekä Iranin ja Israelin tapahtumiin liitetyistä kuvista.
Kaikissa tapauksissa kyse oli aiemmin tarkistetuista tekoälykuvista tai tekoälyllä manipuloidusta materiaalista, mutta Googlen järjestelmä esitti kuvat useissa tapauksissa aitoina tai liitti ne harhaanjohtavasti todellisiin tapahtumiin.
Erityisen ongelmallisena Faktabaari pitää sitä, että Google ei tunnistanut edes kaikkia selviä vihjeitä. Yhdessä Artemis-avaruuslentoon liittyvässä tekoälykuvassa oli Googlen oma tekoälyvesileima, mutta AI-yhteenveto tulkitsi kuvan silti aidoksi.
Faktabaarin itse luomassa linnakuvassa taas kuvan metatiedoista näkyi tekoälylle annettu kehote, mutta Googlen yhteenveto väitti kuvan esittävän oikeaa rakennusta Englannissa.
Yhdessä testitapauksessa Googlen tekoälytila tunnisti kuvan tekoälyllä tehdyksi, mutta antoi silti siitä väärän sijaintitiedon. Vain yhdessä tapauksessa järjestelmä tunnisti kuvan oikein tekoälyllä luoduksi.
Tekoäly-yhteenvetoa ei pidä käyttää faktantarkistukseen
Faktabaari arvioi, että ongelma on vakava, koska moni käyttäjä voi pitää Googlen AI-yhteenvetoa luotettavana vastauksena. Käänteistä kuvahakua käytetään usein juuri silloin, kun halutaan selvittää, onko verkossa leviävä kuva aito vai manipuloitu.
New York Timesin tilaaman ja tekoäly-yhtiö Oumin tekemän analyysin mukaan Googlen tekstihakujen AI-yhteenvedoista noin yhdeksän kymmenestä pitää paikkansa. Virheiden määrä voi silti olla valtava, koska Google käsittelee vuosittain biljoonia hakuja.
Faktabaarin testin perusteella kuvien tunnistuksessa tekoäly-yhteenvedot näyttävät olevan huomattavasti epäluotettavampia.
Faktabaarin johtopäätös on selvä: Googlen tekoäly-yhteenvetoon ei pidä luottaa, kun tarkistetaan kuvan aitoutta. Käänteistä kuvahakua voi edelleen käyttää, mutta tekoälyn antamat tiivistelmät on syytä sivuuttaa ja tarkistaa väitteet alkuperäisistä lähteistä sekä luotettavista faktantarkistuksista.