Yhdysvaltalaisen yksityisen tekoälytutkimusta tekevän keskuksen OpenAI:n toimitusjohtaja Sam Altman varoittaa, että lähitulevaisuudessa tekoälyn avulla kuka tahansa voi imitoida verkossa kenen tahansa ääntä ja jopa ulkonäköä niin tarkasti, että sitä ei pysty erottamaan todellisesta.
– Tällä hetkellä kyse on äänipuheluista, mutta pian tulevat videot ja videopuhelut, joita ei pysty erottamaan oikeista, hän sanoi tapaamisessa Yhdysvaltain keskuspankki FEDin varapääjohtaja Michelle Bowmanin kanssa Washingtonissa.
Altman on huolestunut siitä, että jotkut pankit käyttävät yhä äänitunnistusta suurtenkin rahasummien siirtämisessä.
– Se pelottaa minua. Sanotaan vain tunnuslause, ja suoritus toteutuu, hän sanoi.
Hänen mukaansa tekoäly on jo oppinut ohittamaan useimmat tunnistautumismenetelmät salasanoja lukuun ottamatta. Tulevaisuudessa riskit kasvavat: tekoälyväärennösten kehittymisen myötä huijarit pystyvät luomaan massoittain väärennettyjä videoita ja videopuheluita.
On jo tapauksia, joissa huijarit ovat käyttäneet tekoälyä äänten imitointiin kiristääkseen rahaa tai huijatakseen yritysten työntekijöitä, hän kertoo.
Sam Altman puolusti itseään sanomalla, että OpenAI ei kehitä työkaluja ihmisten imitointiin eikä ole mukana häämöttävässä kriisissä. Yhtiön Sora-videogeneraattorilla voisi kuitenkin teoriassa luoda tällaisia väärennöksiä.
– Yritämme varoittaa, että vaikka teknologian koodi ei ole avointa, se ei tarkoita, etteikö sitä olisi olemassa. Joku julkaisee sen vielä, ja se tapahtuu hyvin pian, hän sanoi.
Altman on julkaissut Orb Mini -mobiilivarmennuslaitteen, joka näyttää kännykältä. Sen etupuolella on kaksi suurta anturia verkkokalvon skannaamiseksi. Laitteen toisen kehittäjän Alex Banian mukaan on suunnitelmia tehdä Orb Ministä kannettava myyntipistelaite ja ehkä myydä anturiteknologia laitevalmistajille.
Altmanin suhtautumisesta tekoälyn kehitykseen tuli vuonna 2023 julkisuutta saanut skandaali, joka johti hänen erottamiseensa OpenAI:sta ja myöhemmin hänen paluuseensa yhtiöön.
Huhujen mukaan konfliktin aiheutti Ilja Sutskever, joka johti OpenAI:n tutkimusryhmää. Hän oli erityisen huolissaan OpenAI:n teknologian aiheuttamista mahdollisista vaaroista yhteiskunnalle sekä Altmanin välinpitämättömyydestä sille. Lopputuloksena Sutskever erosi itse yhtiöstä.
