Yhdysvaltalainen tekoäly-yhtiö OpenAI ilmoitti tällä viikolla ”ennennäkemättömäksi” kuvailemastaan tapauksesta.
Yhtiön mukaan sen kehitysvaiheessa olevalle tekoälymallille tehtiin kyberkykyjä mittaavaa testiä, kun tekoäly onnistui murtautumaan ulos testiympäristöstä julkiseen internetiin.
OpenAI:n mukaan tekoäly päätteli, että vastaus sille annettuun tehtävään saattaisi löytyä toisen tekoäly-yhtiön, Hugging Facen, järjestelmistä. Sen jälkeen tekoäly käynnisti itsenäisesti kyberhyökkäyksen Hugging Facen järjestelmiin etsiessään ratkaisua tehtävään.
Tietoturva-asiantuntija Petteri Järvinen pitää tapahtunutta poikkeuksellisena.
– Tämä on kyllä merkittävä virstanpylväs ja hyvä muistutus niistä vaaroista, joita näihin uusiin tekoälymalleihin liittyy, Järvinen sanoo Verkkouutisille.
Kun tekoälylle annetaan tehtävä, se saattaa käyttäytyä tavalla, jota ihminen ei ole osannut ottaa huomioon, arvioi asiantuntija.
– Mitä kehittyneemmäksi nämä mallit tulevat, niin sitä vaikeampi ihmisen on enää ennakoida niiden toimintaa.
OpenAI:n testiympäristössä tekoäly onnistui löytämään nollapäivähaavoittuvuuden eli aiemmin tuntemattoman tietoturva-aukon.
Toisaalta tapausta koskeneessa viestinnässä on Järvisen mukaan kuitenkin hieman liioittelun makua. Hän muistuttaa, että niin OpenAI kuin sen tärkeä kilpaileva Anthropic valmistelevat listautumista pörssiin Yhdysvalloissa.
Alkuvuodesta Anthropicin uusimman mallin kyberkyvykkyyksien arvioitiin olevan niin korkeita, että siihen alettiin soveltaa vientivalvontaa. Yhtiö sai tapauksen myötä paljon julkisuutta.
Nyt ilmi tulleen tapauksen pitäisi kuitenkin olla asiantuntijan mukaan herätys päättäjille.
– Kyllä tämän pitäisi viimeistään nyt havahduttaa päättäjiä.
Tekoälyn toiminta voi yllättää ihmiset
OpenAI:n tapauksessa kyse ei ollut suoranaisesti siitä, että tekoäly olisi toiminut ihmisen käskyjen vastaisesti. Siltä oli poistettu testausta varten keinotekoiset ”turvakaiteet”, jotka rajoittavat sen kyvykkyyksiä kybertoiminnassa. Kun tekoälylle annettiin tehtäväksi ratkaista ihmisten sille asettama harjoitustehtävä, se yritti kaikin keinoin ratkaista ihmisten antaman käskyn.
Tietoturva-asiantuntijan mukaan riskinä on, että tekoälyjärjestelmät saattavat tulevaisuudessa entistä useammin toimia vastaavalla tavalla. Hyvää tarkoittavat komennot saattavat johtaa arvaamattomaan toimintaan.
Ihmiset eivät välttämättä ole edes tulleet ajatelleeksi asioita, joita tekoäly saattaa tehdä.
– Se erityisesti pelottaa minua, että hyvätkin aikomukset saattavat tekoälyn toiminnassa johtaa arvaamattomiin ja jopa vaarallisiin tekoihin.
Esimerkiksi tekoälylle asetetut rajoitteet ovat ihmisen luomia ja niitä rajoittaa ihmisen ajattelukyky. Tekoäly voi lähestyä asioita aivan eri tavalla.
– Mehän emme edes tiedä mitä kaikkea pitäisi rajoittaa, Järvinen pohtii.
Kyberturvallisuudessa tekoäly on noussut erittäin tärkeään rooliin viime aikoina. Etenkin tämän vuoden keväästä alkaen markkinoille on alkanut tulla malleja, jotka ovat erikoistuneet tietoturva-aukkojen löytämiseen.
Toisaalta ongelmaksi on nyt asiantuntijan mukaan noussut se, että haavoittuvuuksia löydetään jopa liikaa.
– Ihmisillä on hirveä työ käydä läpi ne kaikki löydökset ja priorisoida niitä, mitkä ovat oikeasti vaarallisia.
Osa haavoittuvuuksista voi olla loppujen lopuksi vaarattomia, jos esimerkiksi löydetyn aukon kautta ei loppujen lopuksi pääse minnekään.
Aukkojen paikkaaminen voi Järvisen mukaan myös osoittautua erittäin vaikeaksi tai jopa lähes mahdottomaksi, jos esimerkiksi vanhasta ohjelmistosta löytyy haavoittuvuus, mutta sitä hallinnoivalla yrityksellä ei ole enää tallessa ohjelmiston lähdekoodia. Haavoittuvuuksien korjaaminen voi myös rikkoa jotain tärkeitä toiminnallisuuksia vanhassa ohjelmistossa.
– On ollut melkoista painajaista tämä koko vuosi. Tekoäly on sekä ystävä että vihollinen tässä mielessä.