Tekoälyriippuvuudet kasvavat yhteiskunnan kriittisissä järjestelmissä nopeammin kuin niitä pystytään hallitsemaan, todetaan tuoreessa valtioneuvoston tutkimusraportissa. Samalla monet kriittiset digipalvelut ovat yksityisten ja usein ulkomaisten toimijoiden käsissä.
VTT:n ja Hankenin tutkijoiden 27. elokuuta julkaistussa raportissa arvioidaan suomalaisen yhteiskunnan kriittisiä toimintoja (SYKT) seuraavien 20 vuoden aikana. Tutkijoiden mukaan digitaalisten palveluiden ja tekoälyn nopea kehitys on yksi keskeisistä tulevaisuuden haasteista.
Digitaaliset järjestelmät ovat jo välttämättömiä muun muassa liikenteelle, terveydenhuollolle, turvallisuudelle ja demokraattiselle päätöksenteolle. Järjestelmien keskinäiset riippuvuudet kasvattavat kuitenkin riskiä siitä, että yhden kriittisen osan häiriö leviää nopeasti muihin toimintoihin.
Raportissa nostetaan esiin myös tekoälypalveluiden hinnoittelu. Nopeat muutokset hinnoittelumalleissa voivat vaikuttaa kriittisten toimintojen kustannuksiin lyhyellä varoitusajalla. Siksi julkisten toimijoiden pitäisi hankinnoissa arvioida nykyisten kustannusten lisäksi palveluntarjoajien tulevia liiketoiminta- ja hinnoittelumalleja.
Kriittiset palvelut ovat ulkomaisten toimijoiden varassa
Riippuvuuksia lisää se, että moni kriittinen digitaalinen palvelu on yksityisen ja usein ulkomaisen toimijan tuottama. Raportin mukaan olennaista on myös palvelujen omistajuus ja se, missä niiden käsittelemät tietoaineistot säilytetään.
SYKT-hankkeen asiantuntijatyöpajoissa kasvavaksi haavoittuvuudeksi tunnistettiin kriittisten tietovarantojen sijoittuminen ulkomaisille palvelimille ja riippuvuus yksittäisistä pilvipalveluntarjoajista. Tällaisia tietovarantoja ovat esimerkiksi viranomaisrekisterit ja potilastiedot. Geopoliittinen kehitys lisää tutkijoiden mukaan tarvetta arvioida uudelleen tietoaineiston omistajuuteen ja palvelinten sijaintiin liittyviä riskejä.
Datakeskukset, pilvipalvelut ja kriittiset tietoliikenneyhteydet ovat raportin mukaan järjestelmän solmukohtia, joiden häiriöillä voi olla laajoja kerrannaisvaikutuksia. Tutkijat esittävät tekoälyn käytön ja siihen liittyvien riskien parempaa koordinointia kriittisissä toiminnoissa. Samalla algoritmisen päätöksenteon läpinäkyvyyttä ja vastuullisuutta pitäisi vahvistaa.
Raportti perustuu useisiin tutkimus- ja asiantuntijamenetelmiin. Sen sisällöstä vastaavat tutkijat, eikä se välttämättä edusta valtioneuvoston näkemystä.