Googlen kuvavarmennuksen eli CAPTCHA-palvelun toiminta on herättänyt spekulaatiota koneoppimisen mahdollisista virhearvioista.
Menetelmän tarkoituksena on erottaa verkkosivustojen ihmiskäyttäjät automaattisista boteista esittämällä erilaisia kuva-arvoituksia. Käyttäjää pyydetään esimerkiksi kirjoittamaan kuvassa näkyvät numerot tai tekemään helppo yhteenlasku.
Viime vuosina yleistyneissä arvoituksissa henkilön täytyy tunnistaa näytetystä kuvasta tietyt elementit, kuten liikennemerkit.
Osa käyttäjistä kertoo saaneensa viime aikoina varsin outoja tehtäviä. Ohjelmistokehittäjä Joshua Davis on jakanut Twitterissä kuvan, jossa Googlen reCAPTCHA pyytää häntä merkitsemään kuvasta suojatien. Kuvassa on todellisuudessa vain kahden autotiekaistan väliin maalattu kieltovyöhyke.
Google käyttää kyseistä menetelmää oman tekoälynsä kehittämiseen, minkä lisäksi sen avulla on digitoitu The New York Times -lehden yli 13 miljoonaa artikkelia kattava arkisto. Kuvavarmennus näyttää tällä hetkellä päivittäin ainakin sata miljoonaa kuva-arvoitusta esimerkiksi Facebookin ja Twitterin sisäänkirjautumisen yhteydessä.
Arvostelijoiden mukaan Google käyttää tehtäviä ratkaisevia ihmisiä ilmaisena työvoimana omien robottiautojensa kehitystyössä.
– On sanomattakin selvää, etten vieläkään luota itseajaviin autoihin, Joshua Davis kirjoittaa.
Ohjelmoija Chris McClellan huomauttaa, että virheet datan keräämisessä voivat johtaa vakaviin ongelmiin koneoppimisen algoritmeissa.
– Tämä on valtava ongelma kuvavarmennuksissa. Suurin osa ihmisistä antaa koneelle sen haluaman vastauksen, jotta he pääsevät sivustolla eteenpäin, McClellan toteaa.
Eräs kommentoija kertoo kollegastaan, joka valitsee kuvista tahallaan päinvastaiset kohdat.
– Hän valitsee valojen sijasta seinäkohdat. Suojateitä? Silloin hän klikkaa valoja. Kolmen tai neljän yrityksen jälkeen Google päästää hänet aina kirjautumaan. Odotan kauhulla sitä päivää, kun autot kiihdyttävät kohti vihreää seinää.
Google AI wants me to declare this striped median as a crosswalk. Needless to say, I still don’t trust self-driving tech. pic.twitter.com/0IzC0OA02w
— byJoshuaDavis (@byJoshuaDavis) July 6, 2019
