Venäjä on ottanut käyttöön autonomisesti kohteet valitsevia tekoälydrooneja. Kesän aikana on ilmennyt viitteitä siitä, että tekoälydroonit ovat aiheuttaneet myös siviilikuolemia.
Venäläinen pieni kiinteäsiipinen drooni iski 6. heinäkuuta huoltoaseman lähelle Zaporižžjassa Kaakkois-Ukrainassa, kertoo The New York Times. Räjähdyksessä kuoli kolme siviiliä.
Droonin jäänteitä tutkineiden asiantuntijoiden mukaan laite oli ohjelmoitu lentämään tietyn huoltoaseman läheisyyteen. Saavuttuaan alueelle se valitsi kuitenkin itse täsmällisen kohteensa tekoälyn avulla.
Droonissa ei ollut yhteydenpitoon tarvittavia antenneja. Sen sisältä löytyi Nvidian valmistama Jetson Orin -minitietokone, jonka avulla laite pystyi tunnistamaan maastoa ja mahdollisia iskukohteita kamerakuvan perusteella.
Ukrainalaiset tutkijat pääsivät käsiksi myös laitteen ohjelmistoon. Sen perusteella tekoälyä oli koulutettu tunnistamaan ja iskemään muun muassa propaanisäiliöihin.
Ihminen poistuu päätöksenteon ketjusta
Tekoälyä on käytetty apuna droonien hallinnassa aiemminkin. Tavallisesti ihminen on kuitenkin ollut tekemässä päätöstä iskemisestä. Tekoäly on voinut ottaa ohjat viimeisillä hetkillä, esimerkiksi silloin, kun maalina on ollut liikkuva kohde.
The New York Timesin mukaan nyt tilanne oli toinen. Ihminen määritti vain toiminta-alueen ja drooni valitsi itse varsinaisen kohteen.
Washingtonissa toimivan Center for Strategic and International Studies -ajatushautomon tekoälyasiantuntija Kateryna Bondarin mukaan kyseessä on ensimmäinen dokumentoitu tapaus, jossa tällaisella venäläisellä järjestelmällä on aiheutettu siviilikuolemia.
Zaporižžjan ilmapuolustuksen komentaja, eversti Serhiy Minaiev pitää kehitystä uhkana.
– Tämä on riski koko maailmalle. Muutaman vuoden kuluttua elämme Terminator-elokuvassa. Tämä ei ole vitsi. Koneet tekevät päätöksiä iskuista, Minaiev sanoo.
Venäjä aloitti ukrainalaisten asiantuntijoiden mukaan tekoälyllä ohjattujen Molniya-droonien koelennot toukokuussa.
Zaporižžjassa on jo ryhdytty mukautumaan uuteen uhkaan. Huoltoasemien propaanisäiliöitä on peitetty ja naamioitu muovilevyillä, joiden tarkoituksena on vaikeuttaa tekoälyn kuvantunnistusta.