Cambridgen yliopiston turvallisuustekniikan professori Ross J. Andersonin mukaan tekoälyn kohdentaminen lukeutuu teknologian alan suuriin haasteisiin. Esimerkiksi ChatGPT:n kaltaiset kielimallit lukevat opetusmateriaalissaan kaikenlaista kyseenalaista, joka vaikuttaa niiden tuottamaan sisältöön. Anderson sanoo Viron yleisradioyhtiö ERR:n haastattelussa, että tulevaisuudessa tekoälyn kouluttaminen vaikeutuu huomattavasti, mikäli tekoäly kehittyy edistyneemmäksi yleiseksi tekoälyksi (artificial general intelligence, AGI).
Yleinen tekoäly eroaa nykyisistä tekoälyistä siten, että nykyiset tekoälyt ovat kapeille sektoreille keskittyneitä toisin kuin vaikkapa ihmisen äly, joka on yleistä.
Anderson huomauttaa haastattelussa, että kun päädymme tilanteeseen, jossa jostakin tekoälystä on kehittymässä yleinen tekoäly, sen on käytävä läpi ihmiselämän lapsuuden ja teini-iän kaltainen opetusprosessi. Se voi koetella rajojaan teinin tavoin, jolloin sille opetetaan, mitä sen on luvallista tehdä.
– Voitteko kuvitella, mitä tapahtuu, jos yleinen tekoäly, jota suuri yhtiö hallitsee, alkaisi käyttäytyä niin? Mitä tapahtuisi, jos matkapuhelinyhtiö päättäisi olla teini, hän pohtii.
Anderson ei kuitenkaan usko, että nykyisenkaltaiset kielimallit kehittyisivät yleisiksi tekoälyiksi. Hän kuitenkin tunnustaa, että esimerkiksi suurten kielimallien kehittäjä Geoffrey Hinton uskoo, että ne ovat juuri sillä kehityspolulla.
Robotit saattaisivat loikata Kiinan puolelle
Hän sanoo, että tulevaisuuden robottien tekoälylle on kyettävä opettamaan länsimaisia arvoja, tai ne voivat kääntyä Kiinan puolelle. Tämä ei ole helppo tehtävä, sillä Kiinan hallinto nojaa länsimaita kapeampiin arvoihin.
– Kaikkien Kiinan robottien tehtävä on yksinkertainen: ylläpidä Kiinan kommunistisen puolueen valtaa ja hiljennä toisinajattelijat. Lännen tavoitteet ovat paljon hajaantuneempia, monimutkaisempia ja vaikeita selittää. Kuinka selität yhdellä sivulla, mitä demokratia ja oikeusvaltioperiaate tarkoittavat, hän pohtii.
Anderson näkee riskin skenaariossa, jossa tiedustelu- tai puolustusviranomaiset antavat länsimaisille roboteille tehtäväksi käyttäytyä kuin kiinalaiset robotit, jotta niiltä saadaan kerättyä tiedustelutietoa. Tällaisessa tapauksessa tekoäly voisi päätyä tulkitsemaan lännen olevan tekopyhä ja loikkaamaan vihollisen puolelle.
– Aivan kuten Edward Snowden loikkasi NSA:sta kokemansa moraalisen paineen alla, en pidä mahdottomana, että länsimainen puolustus- tai tiedustelurobotti voisi näissä tilanteissa päättää loikata Kiinan puolelle, hän jatkaa.
