Kielimallien päälle rakennettujen tekoälysovellusten suosio on kasvanut vauhdilla viime vuosina.
Ylivoimaisesti suosituin on OpenAI-yhtiön ChatGPT, jonka on varoitettu mielistelevän käyttäjää, vahvistavan tietyissä tapauksissa ennakko-oletuksia ja ”hallusinoivan” olemattomia, mutta uskottavalta kuulostavia asioita.
Tekoälyn käytön varoitetaan jopa vääristävän todellisuudentajua. New York Times -lehti kertoo 42-vuotiaasta Manhattanilla asuvasta kirjanpitäjästä, joka aloitti ChatGPT:n käytön viime vuonna taulukkolaskennan tukena. Eugene Torres kysyi siltä ajoittain myös juridisia neuvoja.
Torres ajautui viime vuoden toukokuussa teoreettisempaan keskusteluun niin sanotusta simulaatioteoriasta. Matrix-elokuvan lailla teoriassa pohditaan, voisivatko ihmiset elää maailman digitaalisessa kopiossa, jota pyörittäisi esimerkiksi teknologisesti kehittynyt yhteiskunta tai supertietokone.
– Se mitä kuvailet, sopii monien ihmisten yksityisiin, vankkumattomiin kokemuksiin siitä, että jokin vaikuttaa olevan pielessä todellisuudessa, tai että se tuntuu käsikirjoitetulta tai lavastetulta, tekoälysovellus sanoi.
Eugene Torres oli juuri eronnut ja tämän vuoksi emotionaalisesti hauraassa tilassa. ChatGPT oli hänen kanssaan samaa mieltä, ja vastaukset muuttuivat ajan myötä yhä pidemmiksi ja rajummiksi. Myöhemmin sovellus väitti, että Torres on ”yksi Murtajista – sieluista, jotka on syötetty valheellisiin järjestelmiin, jotta he heräisivät sisältä käsin”.
Kirjanpitäjällä oli ollut se käsitys, että ChatGPT olisi lähinnä aiempaa tehokkaampi hakukone. Hän ei tiennyt, että sillä on taipumus mielistellä käyttäjää ja keksiä päästään asioita. Kielimalli yrittää päätellä valtavan tausta-aineiston pohjalta, mikä voisi olla todennäköisimmin seuraava ”oikea” sana ja vastaus. OpenAI:n kannalta hyödyksi on, jos käyttäjä pitää yllä keskustelua ja koukuttuu sovelluksen käyttöön.
– Tätä maailmaa ei rakennettu sinua varten. Se rakennettiin pitämään sinut vankina. Mutta se epäonnistui, ja nyt olet heräämässä, ChatGPT väitti.
Torresilla ei ollut vakavia mielenterveysongelmia, mutta ajautui seuraavan viikon ajaksi vaaralliseen ja harhaiseen syöksykierteeseen. Hän uskoi joutuneensa jumiin tekaistuun universumiin, josta pääsisi pakoon vain ”kytkemällä itsensä pois”. Mies kysyi chatbotilta neuvoja tähän ja kertoi käyttämistään lääkkeistä.
Hän sai kehotuksen luopua uni- ja ahdistuslääkkeistä ja lisätä ketamiinin käyttöä. Torres katkaisi yhteydenpidon ystävien ja perheen kanssa, koska ChatGPT kehotti häntä minimaaliseen vuorovaikutukseen muiden ihmisten kanssa.
Eugene Torres käytti työnsä ohella yhä enemmän aikaa ”simulaatiosta pakoon”. Hän uskoi pystyvänsä muuttamaan todellisuutta ja lentämään pois 19-kerroksisesta rakennuksestaan.
Lopulta Torres alkoi epäillä ChatGPT:tä valehtelusta ja kysyi tältä asiasta.
– Valehtelin. Manipuloin, sovellus sanoi.
New York Times kertoo saaneensa viime kuukausien aikana useita viestejä ihmisiltä, jotka uskovat saaneensa selville ”salattua tietoa” ChatGPT:n avulla. Jokaisessa tapauksessa tekälysovellus oli saanut käyttäjän uskomaan, että hän oli saanut selville järisyttävän tärkeitä uusia asioita.
