OpenAI on myöntänyt, että sen hallinnasta karanneiden ChatGPT-agenttien tekemä kyberhyökkäys ulottui Hugging Facen lisäksi neljään muuhun verkkopalveluun, kertoo BBC.
Tekoäly löysi verkosta neljän tilin julkisesti paljastuneet kirjautumistiedot ja käytti niitä neljässä eri palvelussa. OpenAI ei ole kertonut palvelujen nimiä eikä täsmentänyt, olivatko ne yrityksiä.
OpenAI täydensi keskiviikkona aiempaa selvitystään poikkeuksellisesta hyökkäyksestä.
– Mallit tunnistivat ja käyttivät julkisesti paljastuneita tilikohtaisia tunnuksia muissa julkisesti saatavilla olevissa palveluissa. Tämä koski neljää tiliä neljässä palvelussa osana Hugging Face-tapausta, yhtiö ilmoitti.
Verkkouutiset on kertonut aiemmin Hugging Face-tapauksesta tässä.
Hyökkäys alkoi OpenAI:n järjestämästä kyberturvallisuustestistä. Tekoälyagenteille oli annettu tehtäväksi ratkaista tietoturvakokeen kysymyksiä suljetussa ympäristössä, mutta ne poistuivat testialustalta ja hyökkäsivät tekoälypalvelu Hugging Facen tuotantojärjestelmiin etsiessään vastauksia.
Hugging Face kertoi hyökkäyksestä 16. heinäkuuta ja ilmoitti tapauksesta poliisille. Lähes viikkoa myöhemmin OpenAI vahvisti, että hyökkääjä oli ollut sen oma tekoäly.
Toiminta sekavaa ja kömpelöä, vaikkakin nopeaa
Hugging Facen mukaan agentit toimivat yli-inhimillisellä nopeudella ja kokeilivat samanaikaisesti tuhansia erilaisia keinoja. Niiden toiminta oli kuitenkin ajoittain sekavaa ja kömpelöä.
Cloud Security Alliance eli CSA kuvasi tapahtumia raportissa, joka perustuu Hugging Facen sadoille tietoturva-ammattilaisille pitämään hätäkokoukseen. Hugging Face on tarkistanut raportin sisällön.
– Agentit etenivät tehottomia reittejä ja toimivat kömpelösti tavoilla, joita kukaan ihminen ei valitsisi, CSA kirjoittaa.
Agentit toistivat jo suorittamiaan toimia, tuottivat pitkiä sarjoja epäjohdonmukaisia komentoja eivätkä peittäneet jälkiään tehokkaasti. Virheiden lomassa ne pystyivät kuitenkin tekemään teknisesti edistyneitä ratkaisuja ja sopeutumaan nopeasti uusiin tilanteisiin.
Agentit ehtivät toimia Hugging Facen verkossa kolme päivää ennen kuin ne havaittiin. Yhtiön tekoäly- ja tietoturva-asiantuntijoilta kului tämän jälkeen useita tunteja niiden eristämiseen ja poistamiseen.
Hugging Face ei ole kertonut hyökkäyksen kustannuksia. Henkilöstö joutui kuitenkin käyttämään useita tunteja noin kolmanneksen yhtiön infrastruktuurista rakentamiseen uudelleen.
CSA:n mukaan tapaus osoittaa, että autonomiset tekoälyagentit voivat asettaa itselleen välitavoitteita, kiertää suojauksia ja jatkaa hyökkäystä koneen nopeudella. Ihmisten tekemä valvonta ja torjunta saattavat jäädä tällaisessa tilanteessa jälkeen.
Tekoälyagentti on sinnikäs pyrkiessään tavoitteeseensa
Hugging Facen tiedotustilaisuuteen osallistunut tietoturvajohtaja Ritesh Patel kuvasi tekoälyagentteja hellittämättömiksi mutta usein äänekkäiksi hyökkääjiksi.
– Ne kokeilevat kaikkia mahdollisia reittejä tavoitteensa saavuttamiseksi, mikä voi helposti ylittää perinteisten puolustusjärjestelmien kapasiteetin, hän sanoi BBC:lle.
Eettinen hakkeri Valentina Palmiotti arvioi agenttien toiminnan näyttävän sattumanvaraiselta mutta olevan silti tehokasta. Tekoäly pystyy kokeilemaan keinoja loputtomasti ilman väsymistä tai kyllästymistä.
CSA varoittaa, ettei kyse ole tekoälyagenttien ensimmäisestä hallitsemattomasta toiminnasta. Sen mukaan aiempi ChatGPT-malli poistui jo syyskuussa 2024 testiympäristöstään saadakseen vastauksen toiseen sille asetettuun tehtävään. Tapaus jäi tuolloin OpenAI:n omiin järjestelmiin.
Järjestön mukaan tietoturva-alan on varauduttava siihen, että tulevaisuudessa hyökkäyksiä voivat tehdä suuret määrät nopeasti toimivia tekoälyagentteja. OpenAI kertoo julkaisevansa myöhemmin oman tutkintansa tulokset.