Tekoäly-yhtiö Anthropic kertoo estäneensä yrityksiä käyttää sen Claude-tekoälymallia biologisten aseiden kehittämistä tukevaan toimintaan, uutisoi BBC Anthropicin tuoreeseen uhkatiedusteluraporttiin viitaten.
Raportissa nostetaan esiin viisi tapausta, joissa käyttäjät hyödynsivät Anthropicin malleja tavoilla, jotka olisivat voineet edistää biologisten aseiden kehittämistä. Yhtiö pitää tekoälyn mahdollista hyödyntämistä biologisten aseiden kehittämisessä yhtenä kehittyneiden tekoälymallien vakavimmista riskeistä.
Anthropicin tunnistamat tapaukset liittyvät muun muassa chikungunya-virusta, lintuinfluenssaa sekä myrkkyjä ja toksiineja koskevaan tutkimukseen. Yhtiö ei kertonut tutkimuslaitosten nimiä, maita tai tarkkoja biologisia aineita, mutta korosti kyseessä olevan kaksikäyttötutkimuksen, jota voidaan hyödyntää sekä lääketieteessä että biologisten aseiden kehittämisessä.
Raportin mukaan Claudea on yritetty käyttää myös muuhun haitalliseen toimintaan. Yhtiö kertoo havainneensa ja estäneensä käyttöä muun muassa kyberoperaatioissa, vaikuttamiskampanjoissa, huijauksissa, valvonnassa ja tavanomaisten aseiden ohjelmistojen kehittämisessä.
Raportissa mainitaan muun muassa Venäjään kytkeytynyt kybervakoilukampanja, iranilainen propagandainstituutio, hakkeriryhmä ShinyHunters sekä Kiinassa toimivia laboratorioita.
Yhdysvalloissa käydään kovaa keskustelua tekoälyn turvallisuudesta. Esimerkiksi demokraattisenaattori Bernie Sanders on vaatinut kehittyneen tekoälyn kehittämisen keskeyttämistä ja supertekoälyn kieltämistä. Presidentti Donald Trump on korostanut Yhdysvaltojen tarvetta voittaa tekoälykilpailu.