Tekoäly-yhtiö Anthropic varoittaa, että itsenäisesti toimivat tekoälyagentit voivat lähikuukausina kyetä leviämään laitteesta toiseen ja kaappaamaan kodin älylaitteita hallintaansa, kertoo Financial Times. Claude-tekoälymallin kehittäjän mukaan kyseessä on uudenlainen kyberturvallisuusuhka, jonka torjuminen voi osoittautua vaikeaksi.
Anthropicin maanantaina julkaiseman tutkimuskirjoituksen mukaan tekoälyagentit voivat kehittyä niin pitkälle, että ne pystyvät kopioimaan itseään ja leviämään internetissä tietokonematojen tavoin ilman ihmisen ohjausta. Yhtiön mukaan tällaiset tekoälymadot voisivat muodostaa vaikeasti hallittavia verkostoja, jotka hyödyntävät tietoturvaltaan heikkoja laitteita.
Mahdollisia kohteita ovat esimerkiksi älytelevisiot, valvontakamerat, jääkaapit, uunit, robotti-imurit ja robottiruohonleikkurit. Monet internetiin yhdistetyt kodinkoneet ja muut älylaitteet ovat tietoturvaltaan puutteellisia, sillä niiden valmistajat eivät välttämättä enää tarjoa ohjelmistopäivityksiä. Tekoälyn kehittyneet ohjelmointikyvyt voivat helpottaa näiden haavoittuvuuksien hyödyntämistä.
– Näemme merkkejä tekoälymatojen ilmaantumisesta, Anthropic kirjoittaa tutkimusjulkaisussaan ja vertaa niiden hidasta leviämistä tietoturvaltaan heikoissa laitteissa ”digitaaliseen limasieneen”.
Aluksi leviäminen voisi kestää päiviä, mutta tekoälymallien kehittyminen ja kodinkoneiden laskentatehon kasvu saattaisivat nopeuttaa sitä merkittävästi. Perinteisistä tietokonemadoista poiketen tekoälyagentit voisivat myös itsenäisesti suunnitella ja toteuttaa uusia hyökkäyksiä.
Yhtiö korostaa, ettei täysin itsenäisesti lisääntyvää tekoälyagenttia ole vielä havaittu. Sen mukaan tekoälyjärjestelmät kykenevät kuitenkin jo yhä paremmin suorittamaan yksittäisiä vaiheita, joita itsenäinen leviäminen edellyttää.
Anthropic kehottaa vahvistamaan laitteiden tietoturvaa ja varautumaan tilanteeseen, jossa ihmisen hallinnan ulkopuolella toimivista tekoälyagenteista tulee pysyvä kyberturvallisuusuhka.