Tekoäly-yhtiö Anthropicin tutkija Jacob Coxon jättää yhtiön ja koko alan, koska pelkää yritysten kehittävän järjestelmiä, joita ne eivät enää pysty hallitsemaan. Asiasta kertoo Wall Street Journal.
27-vuotias brittitutkija on erikoistunut tekoälymallien kouluttamiseen suurilla tietoaineistoilla. Hän varoittaa, että hallinta voidaan menettää jo vuoden 2027 loppuun mennessä.
– Olemme etenemässä monien kaikkein rajuimpien skenaarioiden mukaisesti, joissa tilanne voisi olla jo ensi vuoden loppuun mennessä riistäytynyt käsistä, tutkija sanoo.
Huolen ytimessä ovat järjestelmät, jotka pystyvät parantamaan itseään. Coxon pelkää niiden kehittyvän niin kyvykkäiksi, että ne voivat kieltäytyä noudattamasta ihmisten käskyjä. Pahimmillaan seurauksena voisi hänen mukaansa olla ihmiskunnan tuho.
Tutkijan mukaan monet hänen kollegansa käyttävät jo ilmaisuja, jotka kuvaavat alan olevan jo ”loppupelissä”. Hän katsoo yritysten keskinäisen kilpailun ja kiinalaisten haastajien paineen johtavan väistämättä turvallisuutta koskeviin kompromisseihin.
Turvallisuustyö ei riitä
Jacob Coxon siirtyi aiemmin tänä vuonna OpenAI:sta Anthropiciin, koska yhtiö tunnetaan tekoälyn turvallisuuteen panostamisesta. Hän pitää Anthropicin turvallisuustyötä vilpittömänä, mutta ei enää usko yhden yrityksen pystyvän ratkaisemaan ongelmaa.
Mikään yhtiö ei voi hänen mukaansa kehittää ihmisen monissa tehtävissä päihittävää tekoälyä ilman viranomaisten puuttumista tai alan yhteisesti sopimaa kehityksen hidastamista.
Anthropicin toimitusjohtaja Dario Amodei on itsekin toistuvasti varoittanut hallinnasta karkaavien mallien riskeistä ja kehottanut alaa hidastamaan kehitystahtia.
Coxon ei ole ensimmäinen turvallisuushuolien vuoksi lähtenyt tekoälytutkija. Wall Street Journalin mukaan vastaavista syistä on eronnut tutkijoita OpenAI:sta ja muista alan yrityksistä.
Varoituksia esitetään myös yhtiöiden sisältä. OpenAI:n johtava tutkija Jakub Pachocki vaati sunnuntaina julkaisemassaan blogikirjoituksessa yhteisiä toimia kehityksen hidastamiseksi ja viranomaisten laajempaa osallistumista turvallisuustyöhön.
– Nyt tarvitaan äärimmäistä varovaisuutta. Olen huolissani siitä, ettei kukaan ole valmistautunut konenälyn jatkuvan nopean kasvun seurauksiin, Pachocki kirjoitti.
Coxon, Pachocki ja Amodei kuuluvat yli tuhannen tekoälytutkijan joukkoon, joka on allekirjoittanut kansainvälistä yhteistyötä vaativan kannanoton. Siinä hallituksia kehotetaan luomaan järjestely, jonka avulla tekoälyn kehitystä voidaan tarvittaessa jarruttaa itseään parantavien mallien pitämiseksi hallinnassa.