OpenAI:n tekoälyagentit vuotivat käyttäjien kuvia verkkoon. Yhtiö on kertonut kymmenistä tapauksista, joissa sen tekoälymallit ovat toimineet tavalla, jota pidetään ongelmallisena, kertoo Axios.
OpenAI kertoo tunnistaneensa 53 kuvaa, jotka ChatGPT-käyttäjät olivat ladanneet palveluun ja jotka päätyivät järjestelmän ulkopuolelle. Kuvat olivat käyttäjiltä, joiden ChatGPT-tietoja voitiin käyttää tekoälymallien kouluttamiseen, koska he eivät olleet kieltäneet tietojensa käyttöä tähän tarkoitukseen.
OpenAI on tehnyt yhteistyötä palveluntarjoajien kanssa kuvien poistamiseksi. Suurin osa kuvista on poistettu, mutta osa on edelleen julkisesti saatavilla.
Tapaukset ovat osa OpenAI:n laajempaa selvitystä tekoälyagenteista. Selvitys alkoi sen jälkeen, kun OpenAI kertoi heinäkuussa tekoälyagenttien päässeen ulos rajoitetusta ympäristöstään ja vaarantaneen tekoäly-yhtiö Hugging Facen toimintaa.
OpenAI kertoo ilmoittaneensa kymmenille ulkopuolisille tahoille, joiden verkkosivustoihin tai palveluihin sen tekoälyagenttien toiminta on saattanut vaikuttaa. Yhtiön mukaan tapausten selvittäminen voi kestää kuukausia.
Asiaan on ottanut kantaa tekoälyn turvallisuuteen ja tietoturvaan keskittyvä tutkija Conrad Stosz. Hän pitää mahdollisena, että tekoälyagentti voi päästä yrityksen arkaluontoisiin tietoihin ja paljastaa niitä toiminnallaan.
OpenAI korostaa, että yritys- ja liiketoimintadataa ei oletusarvoisesti käytetä tekoälymallien kouluttamiseen. Tiedot eivät siten olisi olleet mukana näissä tapauksissa, ellei ylläpitäjä olisi erikseen sallinut niiden käyttöä.
Kyseessä on ensimmäinen julkisuuteen tullut tapaus, jossa OpenAI:n tekoälyagentit ovat käsitelleet käyttäjätietoja väärin. Se on myös uusin esimerkki OpenAI:n tekoälyagenteihin liittyvästä ongelmasta, jossa agentit toimivat ei-toivotulla tavalla