Tekoälypalvelu ChatGPT:stä on löytynyt haavoittuvuus, jonka avulla hyökkääjä saattoi kiertää Lockdown Mode -suojauksen ja vuotaa keskustelutietoja käyttäjän huomaamatta. Open AI on korjannut ongelman.
Haavoittuvuuden löysi tietoturvayhtiö Check Point Research. Tutkijoiden mukaan sitä olisi voitu hyödyntää keskustelutietojen varastamisen lisäksi käyttäjätunnusten kalasteluun ja haittaohjelmien levittämiseen.
Vakavin osoitettu hyökkäystapa koski ChatGPT:n työpöytäsovellusta. Tutkijat pystyivät haitallisen GPT:n avulla lähettämään keskustelun sisältöä hyökkääjän hallitsemalle palvelimelle samalla, kun käyttäjä keskusteli ChatGPT:n kanssa.
Käyttäjän ei tarvinnut klikata linkkiä tai hyväksyä tiedonsiirtoa. Check Pointin mukaan kyse oli niin sanotusta zero-click-tietovuodosta.
Lockdown Mode on ChatGPT:n tavallista tiukempi suojaustila, jonka tarkoituksena on pienentää erityisesti prompt injection -hyökkäyksiin liittyvää tietovuotoriskiä. Niissä tekoälyn käsittelemään sisältöön piilotetaan haitallisia ohjeita, joiden avulla järjestelmää pyritään saamaan toimimaan käyttäjän tarkoituksen vastaisesti.
Heikkous löytyi esikatselutoiminnosta
Haavoittuvuus ei Check Pointin mukaan ollut itse tekoälymallissa, vaan ChatGPT:n HTML-sisältöä näyttävässä esikatselutoiminnossa.
Esikatselu suoritettiin eristetyssä sandbox- eli hiekkalaatikkoympäristössä, jonka piti estää sisältöä pääsemästä käsiksi ChatGPT:n muihin osiin. Tutkijat löysivät kuitenkin ponnahdusikkunoiden käsittelystä keinon kiertää osan rajoituksista.
Samaa tekniikkaa olisi voitu käyttää myös huijausikkunoiden näyttämiseen ChatGPT:n käyttöliittymässä. Tutkijat demonstroivat esimerkiksi väärennettyä päivitysilmoitusta, jolla käyttäjää olisi voitu houkutella lataamaan haittaohjelma.
Check Point ilmoitti haavoittuvuudesta Open AI:lle. Yhtiö kertoi tutkijoille 18. syyskuuta 2026 poistaneensa hyökkäyksen mahdollistaneet sandbox-oikeudet. Check Point vahvisti myöhemmin, ettei kuvattu hyökkäystapa enää toimi.