Tutkija Joni Salminen Turun yliopistosta kertoo Kauppalehdessä, että vielä koneellisen päätöksenteon yleistymisestä on enemmän hyötyjä kuin haittoja, mutta tällä hetkellä julkisten päättäjien olisi hyvä kerätä ymmärrystä riskeistä.
Koneellisessa päätöksenteossa on Salmisen mukaan potentiaalia negatiivisiin sosiaalisiin ja yhteiskunnallisiin vaikutuksiin. Hän johtaa tutkimushanketta, jossa selvitetään koneellisen päätöksenteon yhteiskunnallisia riskejä.
Tähän asti suurimmat toteutuneet riskit näkyvät hänen mukaansa lähinnä sosiaalisessa mediassa ryhmäpolarisaationa, kun algoritmit ohjaavat ihmisiä näkemään somessa sitä mitä he haluavatkin nähdä.
Koneen tekemät päätökset saattavat Salmisen mukaan olla ainakin teoriassa jonakin päivänä moraalin-, hyvän tavan- tai lainvastaisia. Kone voi oppia stereotypioita ja jopa syrjintää ilman erillistä ohjelmointia. Koneoppimisen malliin voi ujuttautua puolueellisuutta ilman, että ihminen kirjaa sitä sinne.
