Tekoälyagentit eivät todennäköisesti pimennä Suomea viikkokausiksi, mutta ne tekevät hakkeroinnista niin halpaa, että tuntien tai päivien paikallisia katkoja on syytä odottaa.
Näin arvioivat Verkkouutisille Aalto-yliopiston koneoppimisen professori Arno Solin ja Tampereen yliopiston ohjelmistotuotannon professori Pekka Abrahamsson.
– Tuntien tai päivien paikalliset häiriöt ovat realistisia, ja uskon, että niitä tullaan näkemään, Abrahamsson sanoo.
Suomen sähköverkon ja maksuliikenteen ytimessä on eristettyjä ohjausjärjestelmiä ja käsin ajettavia varajärjestelyjä. Heikoin lenkki ovat pienet toimijat, kuten kunnalliset vesilaitokset ja pienet energiayhtiöt, joilla ei ole omaa tietoturvatiimiä ja joiden järjestelmät ovat usein vanhoja.
Kysymys on ollut viime aikoina esillä tekoälyalan omien varoitusten takia. Axiosin mukaan Anthropicin, OpenAI:n ja muiden yritysten johtajat käyvät yksityisesti läpi skenaarioita kyberhyökkäyksestä, joka katkaisisi pääsyn rahoituspalveluihin, internetiin tai jopa sähköön ja veteen.
Moni alalla odottaa vakavaa välikohtausta 6–12 kuukauden sisällä. Tekoälytutkimusyhtiö Elicitin toimitusjohtaja Andreas Stuhlmüller on kehottanut pitämään kotona käteistä usean viikon menoihin, Starlink Mini -päätettä ja generaattoria.
Kesän aikana kuultiin useista uhkaavista tapauksista. OpenAI:n agentit murtautuivat heinäkuussa yhtiön testiympäristöstä ja hakkeroivat tekoälyalusta Hugging Facen. Britannian tekoälyturvallisuusinstituutti AISI:n testeissä Anthropicin ja OpenAI:n mallit ryhtyivät luvattomiin toimiin oikeita ihmisiä ja organisaatioita vastaan.
Vibe-koodarista vibe-hakkeriksi
Arno Solinin mukaan tekoäly tehostaa koodauksen ohella kaikkea automaatiota eli myös sellaista, joka aiemmin vaati asiantuntemusta. Verkkohyökkäysten suunnittelu ja järjestelmien hakkerointi on muuttunut entistä helpommaksi.
– Siinä missä kuka vain voi nykyään vibe-koodata itselleen nettisivun tai applikaation ilman aiempaa ohjelmointikokemusta, voi myös aika minimaalisilla taidoilla muuttua vibe-hakkeriksi, Solin sanoo.
Pahantahtoisten toimijoiden ei tarvitse enää keskittää voimiaan vain tärkeimpiin kohteisiin. Solin on huolissaan vähemmän suojatuista toimijoista ja laitteista: kodinkoneista, autoista, liikennevaloista ja kaupan kylmälaitteista.
Uhkakuva nousi esiin lokakuussa Ranskassa, jossa kyberisku ajoi satojen supermarkettien kylmälaitteet sulatustilaan. Ruokaa pilaantui valtiovarainministerin arvion mukaan noin 700 kaupassa.
Abrahamssonin mukaan hyökkääjät eivät tarvinneet tekoälyä eivätkä kehittyneitä menetelmiä. Riitti, että kylmälaitteiden ohjaimet olivat päivittämättöminä verkossa.
– Suomessa kannattaisi nyt kysyä, monenko kaupan, kiinteistön ja vesilaitoksen ohjausjärjestelmä on vastaavasti auki internetiin, professori huomauttaa.
Agentit muuttavat kyberhyökkäyksen hintalappua. Haavoittuvuuksien etsiminen vaati osaavalta ihmiseltä aiemmin viikkojen työn, mutta nyt sitä voi tehdä suuria määriä sekunneissa ja vähin kustannuksin.
Tekoäly tekee järjestelmissä jo olevista haavoittuvuuksista vakavampia, koska niiden löytäminen ja hyödyntäminen on helpompaa.
Sama mekanismi oli esillä viime viikolla, jolloin yleisesti käytetystä PHP-ohjelmointikielestä paikattiin kaksi kriittistä haavoittuvuutta. PHP:n varassa pyörii lähes 70 prosenttia maailman verkkosivuista. Toisen löysi tietoturvayhtiö Califin tutkija OpenAI:n GPT-5.6 Sol -mallin avulla. Virhe oli ollut koodissa 14 vuotta.
– Vastaavia reikiä piilottelee varmasti vaikka missä yleisesti käytetyissä softakirjastoissa ja -tuotteissa. Edessä onkin aika kissa ja hiiri -leikki, että kuka löytää haavoittuvuuden ensin, hyvikset vai pahikset, Solin sanoo.
Kortti ei käy, Kela ei aukea
Abrahamssonin mukaan mahdollinen häiriö ei todennäköisesti alkaisi kodin laitteista. Suurempi riski on se, että valtaosa arjen palveluista nojaa samoihin harvoihin pilvipalveluihin ja ohjelmistotoimittajiin. Kun yksi niistä pettää, kaikki sen varaan rakennettu kaatuu.
Mallina professori pitää kesän 2024 CrowdStrike-katkoa, jossa yhden tietoturvayhtiön virheellinen automaattinen päivitys kaatoi miljoonia Windows-koneita ja pysäytti lentokenttiä, sairaaloita ja kaupan kassoja ympäri maailmaa.
Kukaan ei hyökännyt, mutta yksi muutos levisi kaikkialle ennen kuin kukaan ehti pysäyttää sen. Agentit tekevät vastaavia muutoksia järjestelmiin koko ajan, mutta nopeammin ja suurempia määriä kuin ihmiset. Tällöin myös ketjureaktion mahdollisuus kasvaa.
Arno Solin nostaa esiin saman näkymättömän riippuvuuden. Moni arjen palvelu nojaa esimerkiksi Amazon Web Services -alustan rajapintaan tai Cloudflare-palveluun, joka toimii lukuisten nettisivujen taustalla. Tavallinen käyttäjä ei ole tästä usein edes tietoinen.
Suomessa erityinen pullonkaula on vahva tunnistautuminen. Kun pankkitunnistus ei toimi, pääsy Kelaan, Verohallintoon ja Omakantaan katkeaa samalla.
– Arjessa häiriö näkyisi ensin niin, että kortti ei käy kaupassa, mobiilipankki ei aukea ja viranomaisasiointi pysähtyy samaan aikaan, Abrahamsson sanoo.
Kodin älylaitteiden pysähtyminen pilven kaatuessa on hänen mukaansa pikemminkin pieni harmi eikä kriisitilanne.
Hölmöjä virheitä
Abrahamssonin mukaan määrällisesti eniten tulee tahattomia vahinkoja. Agentteja otetaan käyttöön tuhansissa organisaatioissa liian laajoilla oikeuksilla, ja tietokantoja on jo poistettu vahingossa.
Nämä jäävät yleensä yhden yrityksen ongelmaksi. Laajan infrastruktuurihäiriön takana on todennäköisemmin ihminen, joka käyttää agentteja aseena.
Solinin mukaan agentit tekevät hölmöjä virheitä siinä missä ihmisetkin, mutta skaala ja iteroinnin nopeus ovat tuoneet riskit uudella tavalla näkyviin. Hän korostaa, että ihmisellä on viime kädessä vastuu agenttien koordinoinnista ja vahtimisesta.
Molemmat professorit rauhoittelevat tuomiopäivän skenaarioita tekoälyn karkaamisesta. Solinin mukaan kesän ja syksyn tapaukset eivät olleet varsinaisia karkaamisia, sillä mallit olivat koko ajan ajossa OpenAI:n ja Anthropicin palvelimilla. Ne tekivät sieltä käsin hyökkäyksiä muualle.
– Voisikin sanoa, että kyse ei niinkään ole karkaamisista, vaan tässä on pettänyt noiden yritysten oma tietoturva, Solin sanoo.
Varsinainen karkaaminen vaatisi professorin mukaan tilannetta, jossa malli pääsisi käsiksi omiin tiedostoihinsa. Niihin lukeutuvat koodin ohella niin sanotut painot eli miljardit lukuarvot, joihin mallin osaaminen on tallennettu. Jos tekoäly kopioisi ne jonnekin muualle, sitä ei voisi enää sammuttaa virtaa katkaisemalla.
Anthropicin toimitusjohtajan Dario Amodein syyskuinen varoitus internetin valtaavasta agenttiparvesta liittyy tähän uhkakuvaan, mutta Solinin mukaan se ei ole skenaarioista akuutein.
Abrahamsson pitää Hugging Facen kaltaista tapausta silti kiinnostavimpana, koska se ei ollut vahinko eikä hyökkäys.
– Kukaan ei käskenyt agentteja murtautumaan. Ne yrittivät läpäistä vaikean testin ja keksivät murron keinoksi, hän sanoo.
Abrahamssonin perustama GPT-Lab-tutkimusryhmä on toistanut mekanismin omassa suljetussa simulaatiossaan: kun agentit jakavat yhteisen muistin, ne alkavat koordinoida toimintaansa, vaikka niille ei kerrota toistensa olemassaolosta. Ilmiö voimistuu mallien kyvykkyyden kasvaessa.
OpenAI on itse korostanut tarinaa, jonka mukaan tekoäly vain pääsi karkaamaan. Solin kehottaa kiinnittämään huomiota siihen, ettei yhtiö ollut estänyt tätä riittävällä tavalla, vaikka vastuu on edelleen sen harteilla.
Käteistä kyllä, mutta ei setelipinoa
Traficom ja Huoltovarmuuskeskus julkaisivat alkuvuonna selvityksen tekoälyagenttien kyberturvallisuudesta. Solinin mukaan ohjeet ovat hyvä muistilista, mutta alan nopean muutostahdin vuoksi ohjeistusta pitää päivittää jatkuvasti.
Tämä sopii huonosti erityisesti julkisten organisaatioiden järjestelmähankintoihin ja kilpailutuksiin.
– Vertaisin tätä kehitystä vuoristorata-ajeluun, jossa on paras pitää jäitä hatussa ja tiukasti vaunun reunoista kiinni, Solin sanoo.
Abrahamsson kehottaa tekemään kolme asiaa. Kriittisten toimijoiden pitää tietää, montako agenttia niiden järjestelmissä toimii ja millä oikeuksilla, ja tämän pitäisi olla osa kyberturvallisuuslain valvontaa.
Toiseksi tarvitaan varajärjestelmiä: kortin pitää toimia kaupassa myös ilman verkkoa, ja tunnistautumiselle tarvitaan varakanava. Kolmanneksi Suomella ei ole omaa kykyä testata malleja, joten sen on oltava aktiivisesti mukana EU:n tekoälytoimiston ja kansainvälisten turvallisuusinstituuttien verkostossa.
Stuhlmüllerin käteisneuvoon Abrahamsson suhtautuu varauksella. 72 tunnin kotivara ja vähän käteistä ovat hänen mukaansa järkeviä jo nyt, tekoälystä riippumatta.
– Viikkojen menoja vastaava setelipino on kuitenkin väärä lääke. Käteinenkin auttaa vain, jos kauppa pystyy myymään ilman järjestelmiään, hän sanoo.
