Kun tutkija Jacob Coxon erosi tällä viikolla tekoäly-yhtiö Anthropicista, koska oli huolissaan tekoälyteknologian vaaroista, yrityksen sisäiset viestikanavat täyttyivät tuesta Coxonin päätökselle. Asiasta kertoo New York Times.
– Juuri tätä me kaikki olemme sanoneet, yksi työntekijä kirjoitti sisäisessä kanavassa. Hän viittasi Coxonin varoituksiin siitä, että tekoälyn hallinta voidaan menettää jo vuoden 2027 loppuun mennessä.
New York Times kirjoittaa nähneensä yhtiön sisäiset keskustelut, joissa Coxonin varoituksia kommentoidaan.
– Jacob toi sisäisen keskustelun julkisuuteen. Se on hyvä asia, toinen työntekijä sanoo keskustelussa.
Anthropicin lisäksi Coxonin varoitukset saivat vastakaikua OpenAI:n, Metan ja Googlen tekoälytutkijoilta. NYT:n haastattelemien yhteensä kahdentoista työntekijän mukaan monet tutkijat alkoivat heti suunnitella, miten lisätä tietoisuutta tekoälyn riskeistä.
Moni heistä astui nopeasti julkisuuteen. Esimerkiksi Anthropicin turvallisuustutkija Evan Hubinger sanoi näkevänsä yli kymmenen prosentin todennäköisyyden sille, että tekoäly voisi ”tappaa kaikki ihmiset” seuraavan vuosikymmenen aikana.
OpenAI:n turvallisuustutkija Julie Steele puolestaan kertoi uskovansa, että tekoäly-yhtiöiden on ”hidastettava vauhtiaan”. Perjantaina Google DeepMindin työntekijä Andreas Kirsch kirjoitti olevansa huolissaan siitä, että tekoäly tappaa meidät kaikki joko lähiajan riskien, pitkän aikavälin riskien tai molempien seurauksena.
Lauantaina Anthropicin toimitusjohtaja Dario Amodei sanoi esseessään, että alan on hidastettava tahtia, jolla edistyneitä tekoälymalleja kehitetään. Amodei ehdotti muun muassa, että riippumattomille arvioijille annettaisiin jatkuva pääsy jokaisen edistynyttä tekoälyä kehittävän yrityksen toimintaan. Sekä OpenAI:n johtaja Sam Altman että xAI:n johtaja Elon Musk ilmoittivat pian tukevansa Amodein vaatimusta.
Kahden OpenAI:n työntekijän mukaan Altman sanoi jo aiemmin viikolla suljetussa henkilöstötilaisuudessa, että OpenAI on valmis hidastamaan tekoälyn kehitystä, jos se tehdään yhdessä kilpailevien yhtiöiden kanssa. Altman lisäsi toivovansa, että kehityksen vapaaehtoisesta jarrutuksesta tulisi normaali käytäntö siihen saakka, kunnes alalle on luotu yleisesti hyväksytyt turvallisuusstandardit.
Amodei puolestaan sanoi CNN:n videohaastattelussa varhain sunnuntaiaamuna Suomen aikaa, että hän on kiitollinen Altmanin ja Muskin nopeasta tuesta.
– Se on positiivinen merkki siitä, että tällaisen suunnitelman voi saada toimimaan, hän kiittelee.
Altman korostaa, että pahimpiin uhkakuviin keskittymisen sijaan olisi hedelmällistä puhua valinnoista, jotka voimme tehdä välttääksemme uhkien toteutumisen.
– Alan ja koko maailman on työskenneltävä yhdessä. Jos me kehitämme tekoälyä liian hitaasti, väärät ihmiset voivat nousta valtaan kehittämällä meitä edistyneemmän tekoälyn, hän huomauttaa.
LUE MYÖS:
Tekoälytutkija varoittaa: Tilanne voi riistäytyä käsistä jo ensi vuonna
Elon Musk: Tekoälyn kehitystä pitää hidastaa