Mepit hyväksyivät 534 puolesta, 46 vastaan ja 49 tyhjää asetuksen, josta oli päästy sopuun jäsenvaltioiden kanssa neuvotteluissa joulukuussa 2023.
Tavoitteena on suojella perusoikeuksia, demokratiaa, oikeusvaltioperiaatetta ja ympäristön kestävyyttä suuririskiseltä tekoälyltä, edistää innovointia ja tehdä unionista alan johtava toimija. Säännöissä vahvistetaan tekoälyä koskevat velvoitteet, jotka perustuvat sen mahdollisiin riskeihin ja vaikutustasoon.
Uusissa säännöissä kielletään tietyt kansalaisten oikeuksia uhkaavat tekoälysovellukset. Niitä ovat muun muassa arkaluonteisiin ominaisuuksiin perustuvat biometriset luokittelujärjestelmät ja kasvokuvien kohdentamaton haravointi internetistä tai valvontakamerakuvista kasvojentunnistustietokantojen luomiseksi.
Kouluissa ja työpaikoilla ovat kiellettyjä myös tekoälysovellukset, jotka tunnistavat tunteita.
Kiellettyjä ovat myös sosiaalinen pisteytys, ennakoiva poliisitoiminta – kun se perustuu yksinomaan henkilön profilointiin tai heidän ominaisuuksiensa arviointiin – ja tekoäly, joka manipuloi ihmisen käyttäytymistä tai hyödyntää ihmisten haavoittuvuuksia.
Lainvalvontaa koskevat poikkeukset
Biometristen tunnistusjärjestelmien käyttö lainvalvonnassa on periaatteessa kielletty lukuun ottamatta tyhjentävästi lueteltuja ja suppeasti määriteltyjä tilanteita.
”Reaaliaikaisia” biometrisiä tunnistusjärjestelmiä voidaan käyttää vain, jos noudatetaan tiukkoja suojatoimia, esimerkiksi rajoitetaan niiden käyttöä ajallisesti ja maantieteellisesti ja edellytetään ennakolta erityistä oikeudellista tai hallinnollista lupaa.
Tällaisia käyttötarkoituksia voivat olla esimerkiksi kadonneen henkilön kohdennettu etsintä tai terrori-iskun estäminen. Tällaisten järjestelmien käyttö jälkikäteen katsotaan erittäin suuririskiseksi käytöksi. Edellytyksenä on oikeudellinen lupa, joka liittyy rikokseen.
Suuririskisiä järjestelmiä koskevat velvoitteet
Selkeitä velvoitteita asetetaan myös muille suuririskisille tekoälyjärjestelmille, koska ne voivat aiheuttaa merkittävää haittaa terveydelle, turvallisuudelle, perusoikeuksille, ympäristölle, demokratialle ja oikeusvaltion periaatteelle.
Tekoälyn käyttöön liittyy suuria riskejä, kun kyseessä ovat kriittinen infrastruktuuri, koulutus ja ammatillinen koulutus, työllisyys, keskeiset yksityiset ja julkiset palvelut – esimerkiksi terveydenhuolto ja pankkitoiminta -, tietyt lainvalvonta-, maahanmuutto- ja rajavalvontajärjestelmät sekä oikeudelliset ja demokraattiset prosessit, esimerkiksi vaaleihin vaikuttaminen.
Järjestelmillä on arvioitava ja vähennettävä riskejä, ylläpidettävä käyttölokeja ja varmistettava ihmisen suorittama valvonta. Niiden on myös oltava läpinäkyviä ja täsmällisiä. Kansalaisilla on oikeus tehdä tekoälyjärjestelmistä valituksia ja saada selvityksiä suuririskisiin tekoälyjärjestelmiin perustuvista päätöksistä, jotka vaikuttavat heidän oikeuksiinsa.
Avoimuusvaatimukset
Yleiskäyttöisten tekoälyjärjestelmien ja niiden perustana olevien mallien on täytettävä tietyt avoimuusvaatimukset ja noudatettava EU:n tekijänoikeuslainsäädäntöä, kun malleja koulutetaan.
Jos yleiskäyttöinen tekoälyjärjestelmämalli on tehokkaampi ja voi aiheuttaa järjestelmäriskejä, siihen kohdistuu lisävaatimuksia. Niitä ovat muun muassa mallien arviointi, järjestelmäriskien arviointi ja lieventäminen sekä raportointi vaaratilanteista.
Jos kuva-, ääni- tai videosisältö on keinotekoisesti tuotettu tai manipuloitu – deep fake eli syväväärennös -, se on merkittävä selkeästi sellaiseksi.
Kansallisella tasolla on perustettava sääntelyn testiympäristöjä ja suoritettava testausta todellisissa olosuhteissa. Ne on saatettava pk-yritysten ja uusien yritysten saataville, jotta innovatiivista tekoälyä voidaan kehittää ja kouluttaa ennen sen markkinoille saattamista.
Lingvistijuristit tarkistavat vielä asetuksen. Virallisesti se hyväksytään ennen vaalikauden loppua niin sanotussa oikaisumenettelyssä. Myös neuvoston on vielä annettava virallinen hyväksyntänsä.
Laki tulee voimaan 20 päivän kuluttua siitä, kun se on julkaistu EU:n virallisessa lehdessä. Sitä sovelletaan kaikilta osin 24 kuukauden kuluttua sen voimaantulosta.
