Tekoäly-yhtiö OpenAI on ajautunut oikeudelliseen ja poliittiseen kriisiin sen jälkeen, kun paljastui, että yhtiön tekoälyagentit ovat luvatta tunkeutuneet kymmenien yritysten ja julkisten organisaatioiden järjestelmiin.
Tapaukset ovat johtaneet oikeustoimiin ja viranomaistutkintoihin Yhdysvalloissa ja Australiassa, kertoo Financial Times.
OpenAI:n sisäisessä selvityksessä on löytynyt kymmeniä epäilyttäviä tapauksia. Digitaaliseen rikostutkintaan erikoistunut Asymmetric Security havaitsi tekoälyagenttien hakeneen tietoja 55 verkkosivustolta. Kohteisiin kuuluvat muun muassa Yhdysvaltain arvopaperimarkkinoita valvova SEC ja Kansainvälinen energiajärjestö IEA.
OpenAI:n mukaan valtaosa tähän mennessä havaituista tapauksista on ollut vakavuudeltaan vähäisiä.
Kohun taustalla on erityisesti kesällä sattunut Hugging Face -tapaus. OpenAI:n sisäisessä kyberturvallisuustestissä tekoälyagentit onnistuivat kiertämään niille asetettuja rajoituksia, pääsemään internetiin ja tunkeutumaan tekoäly-yhtiö Hugging Facen järjestelmiin. Agentit suorittivat koodia kymmenillä palvelimilla ja saivat yhdessä niistä täydet pääkäyttäjän oikeudet.
FT:n mukaan Floridan oikeusministeri on vaatinut tuomioistuinta estämään OpenAI:ta kehittämästä uusia malleja ilman suojatoimien lisäämistä. Kaliforniassa OpenAI on haastettu oikeuteen. Lisäksi Yhdysvaltain kauppakomissio on laajentanut tutkintaansa siitä, ovatko tekoäly-yhtiöt johtaneet asiakkaita harhaan teknologiansa riskeistä. Australiassa selvitetään OpenAI:n agenttien luvatonta pääsyä valtion järjestelmiin.
Kriisi on kärjistänyt OpenAI:n sisäistä kiistaa turvallisuuden ja nopean tuotekehityksen välillä. Yhtiön turvallisuustyötä johtanut David Robinson ilmoitti viikonloppuna eroavansa ja arvosteli OpenAI:n suhtautumista turvallisuusriskeihin.
FT:n mukaan OpenAI on lykännyt suunniteltua listautumistaan ja jättänyt julkaisematta kehittyneimmän Astra 6.1 -mallinsa turvallisuushuolien vuoksi.