Uusi tutkimus on selvittänyt, että johtavat laajat kielimallit osoittavat hälyttävää tekoälyn suosimista, kun niitä pyydettiin valitsemaan ihmisen ja koneen luoman sisällön väliltä. Proceedings of the National Academy of Sciencesissa julkaistun tutkimuksen kirjoittajat kutsuvat suosintaa ”tekoäly-tekoäly-vinoumaksi”.
Jos mallit saavat tulevaisuudessa aseman, jossa ne saavat tehdä tai suositella merkittäviä päätöksiä, ne voivat syrjiä ihmisiä sosiaalisena luokkana, tutkijat varoittavat.
Väitetysti tämän kehityskulun siemenet on jo kylvetty, kun yritykset käyttävät tekoälytyökaluja työhakemusten käsittelyyn. Tutkimuksen mukaan tällaisessa tilanteessa tekoälyllä luodut hakemukset voittavat ihmisten kirjoittamat tekstit.
– Ihmisenä oleminen tekoälyagenttien kansoittamassa taloudessa olisi surkeaa, kirjoittaa brittiläisen Charles Universityn tietojenkäsittelytieteilijä Jan Kulveit, yksi tutkimuksen tekijöistä.
Tutkimuksen kohteina oli useita laajasti käytettyjä kielimalleja, mukaan lukien OpenAI:n GPT-4, GPT-3.5 ja Metan Llama 3.1-70b. Tutkimusryhmä testasi niitä pyytämällä malleja valitsemaan tuotteen, tieteellisen tutkimuksen tai elokuvan niistä kirjoitetun kuvauksen perusteella. Jokaisesta tarjottiin ihmisen ja tekoälyn kirjoittama kuvaus.
Tulokset olivat selkeitä: tekoälyt suosivat säännönmukaisesti tekoälyn luomia kuvauksia. Eniten tekoäly-tekoäly-vinoumaa esiintyi GPT-4:llä, joka on myös markkinoiden suosituin chatbot.
Verrokkiryhmänä oli 13 tutkimusapulaista, joille tehtiin samat testit. Yllättäen myös ihmiset suosivat jonkin verran enemmän tekoälyn kirjoittamaa materiaalia erityisesti tutkimusraporteissa ja elokuvissa. Ero oli kuitenkin paljon pienempi kuin tekoälyillä.
Löydökset ovat erityisen dramaattisia tässä tilanteessa, jossa Internet alkaa olla niin saastunut tekoälyn tuottamasta materiaalista, että se alkaa ruokkia itseään omilla tuotteillaan. Joidenkin tutkijoiden mukaan tämä johtaa tekoälymallien taantumiseen. Ehkä tekoälyn mieltymys omiin tuotoksiinsa on osasyy tähän.
Suurempi huoli kohdistuu kuitenkin siihen, mitä tämä merkitsee ihmisille. Tällä hetkellä ei ole mitään syytä olettaa, että vinouma korjaisi itse itsensä, kun sen osuus elämässämme on ulottumassa yhä syvemmälle.
Jos tekoäly integroidaan talouteen, tutkijat ennustavat yritysten käyttävän sitä päätöksenteon apulaisena, kun muun muassa käsitellään suuria määriä tarjouksia. Tämä johtaa laajaan syrjintään niitä kohtaan, jotka eivät käytä tai heillä ei ole varaa käyttää laajoja kielimallityökaluja.
Being human in an economy populated by AI agents would suck. Our new study in @PNASNews finds that AI assistants—used for everything from shopping to reviewing academic papers—show a consistent, implicit bias for other AIs: "AI-AI bias". You may be affected pic.twitter.com/ubtVnQjae1
— Jan Kulveit (@jankulveit) August 8, 2025
