Tekoäly valjastettiin kiusaamiseen, ilmiö leviää nopeasti somessa

Tekoäly ja sen kielimallit kehittyvät vauhdilla. Nykyaikaisten sovellusten ansiosta saat hetkessä luotuja aidon näköisiä kuvia ja jopa videoita kuvitteellisista tilanteista. Toisin kuin vielä joitakin vuosia sitten, uskottavien kuvien luominen ei edellytä edes kuvankäsittelytaitoja. Graafisesta osaamisesta tai videoeditointitaidoista puhumattakaan.

Julkisessa keskustelussa kehittyvää teknologiaa on käsitelty etenkin myönteisessä näkökulmassa. Kehittyvällä teknologialla on kuitenkin myös varjopuolensa. Sitä voidaan käyttää myös vääriin tarkoituksiin. Tekoälyn avulla voit luoda myös sellaista sisältöä, jonka tarkoituksena on vahingoittaa muita ihmisiä.

Ikävä ilmiö näkyy etenkin lasten ja nuorten keskuudessa. Mannerheimin lastensuojeluliiton (MLL) tekemän kyselyn mukaan 13 prosenttia 13–18-vuotiaista vastaajista on kohdannut tekoälyllä tuotettua kiusaamissisältöä. Yleisimmin kiusaamissisältöihin törmättiin nuorten suosimissa sosiaalisen median kanavissa.

MLL:n mediakasvatuksen asiantuntijan Rauna Rahjan mukaan tekoälyllä tuotettua sisältöä on monenlaista. Tyttöjen vastauksissa tekoälyllä tuotetuissa kiusaamissisällöissä korostuivat etenkin deepfake-tekniikalla tehdyt alastonkuvat ja muut seksuaaliset sisällöt.

– On todella ikävää ja suorastaan musertavaa, että nuori joutuu tällaisen kohteeksi. Se on todella haavoittava tilanne, Rahja huomauttaa.

Tekoälyn avulla on tehty myös kiusaamisvideoita, joissa toinen henkilö on laitettu puhumaan esimerkiksi rasistisia asioita tai muita asiattomuuksia. Henkilön kuva on voitu myös liittää johonkin sellaiseen tilanteeseen, missä hän ei todellisuudessa ole ollut tai hänen sanomisiaan vääristellään.

Joskus kiusaamissisältöä on saatettu tehdä ”huumorin varjolla”.

– Nuorten olisi hyvä tiedostaa, että tällaisia sisältöjä ei saisi luoda tekoälyn avulla edes ”läpällä”, Rauna muistuttaa.

Aina kiusaamissisällön kohteena eivät ole muut nuoret. Nuoret kertovat törmänneensä myös sellaisiin tekoälyn avulla väärennettyihin videoihin, joissa on esiintynyt esimerkiksi joku julkisuuden henkilö tai tunnettu poliitikko.

Tekoälyllä tuotetun kiusaamissisällön vaarapuoli on se, että se voi olla hämmästyttävän aidon näköistä. Tämä näkyi myös kyselyn vastauksissa. MLL:n kyselyn mukaan jopa 28 prosenttia nuorista ei edes ollut varmoja, ovatko he nähneet tekoälyllä tuotettua kiusaamissisältöä.

Kuvamanipulaatiot ja tekaistut alastonkuvat eivät sinänsä ole uusi ilmiö nuorten välisessä kiusaamisessa. Kehittyvän teknologian takia tällaista sisältöä on kuitenkin helpompi luoda kuin aiemmin ja se on aiempaa uskottavamman näköistä. Tekoälysovellukset eivät vaadi käyttäjältään edes erityisiä taitoja, kuten kuvankäsittelyn osaamista.

Rahjan mukaan tekoälyavusteiseen kiusaamiseen liittyy sekin vaara, että pahimmassa tapauksessa kokonainen bottiarmeija voidaan valjastaa kiusaamaan yhtä valittua kohdetta. Käytännössä tämä näkyy esimerkiksi siten, että kiusaajan ohjelmoimat tekoälybotit suoltavat verkkoon kohdetta solvaavaa sisältöä jatkuvasti.

– Silloin sisällön takana ei olekaan enää ihminen, vaan kokonainen bottiarmeija.

Tällaista toimintaa voisi kutsua jo kirjaimellisesti kiusaamisen masinoimiseksi.

Mieti tarkkaan, mitä jaat

Millaisin keinoin tekoälyltä tuotetulta kiusaamissisällöltä voisi yrittää suojautua? Tässä asiassa Rahja korostaa medialukutaitojen opettamisen merkitystä. Nuorten kanssa kannattaa käydä läpi myös sitä, miten digitaalisilla alustoilla kannattaa käyttäytyä.

– Erilaiset tekemiset ja toiminnot voivat tapahtua digitaalisilla alustoilla todella nopeasti tai hetken mielijohteesta. Tästä esimerkkinä ovat alustat, jotka lupaavat, että sinne jaettu sisältö poistuu vuorokauden sisällä, hän kertoo esimerkkinä.

Lupaus ”katoavasta sisällöstä” voi saada aikaan harhakuvitelman, että sosiaalisen median kanavissa voisi jakaa mitä tahansa. Asiaa ei välttämättä tule edes miettineeksi, koska sisällön ei pitäisi jäädä pysyvästi näkyviin minnekään.

Todellisuudessa asia ei ole näin. Vanha sanonta ”minkä kerran lataat internetiin, jää sinne ikuisiksi ajoiksi” pitää monesti edelleen paikkansa. Vaikka esimerkiksi kuva- tai videosisältö olisi ohjelmoitu katoamaan vuorokauden kuluessa julkaisusta, joku voi ottaa materiaalin talteen ja lähteä levittämään sitä eteenpäin esimerkiksi kiusaamistarkoituksessa.

– Silloin asialla voi olla todella vakavia ja kauaskantoisia seurauksia. Kaikkeen nettiin ladatun sisällön kanssa kannattaa muistaa, että ei ole olemassa mitään takeita siitä, etteikö sisältö lähtisi elämään omaa elämäänsä verkossa myöhemmin.

Tekoälyn kehittymisen myötä asia on entistä tärkeämpi tiedostaa. Nykyaikaisten tekoälysovellusten avulla nettiin jaettuja kuvia ja videoita voidaan käyttää häikäilemättömästi hyväksi väärennetyn eli niin sanotun deepfake-sisällön luonnissa.

Siksi nuorten kannattaa aina harkita tarkkaan, millaisia kuvia ja videoita itsestään someen jakaa. Aina kyse ei ole pelkästään itsestään.

– Jos lataa nettiin vaikka kuvan itsestään kavereiden kanssa, silloin on tavallaan vastuussa myös muiden kuvista ja tiedoista, joita someen lataat.

Rahjan mukaan olisi myös tärkeää, että aiheesta puhuttaisiin avoimesti nuorten kanssa kotona. Olisi hyvä, että vanhemmat olisivat kotona tietoisia nuoren asioista ja tekemisistä digitaalisessa ympäristössä.

– Vaikka nuoret ovat itsenäistymisen kynnyksellä, he tarvitsevat vielä vanhempien tukea ja keskustelutukea.

Näissä tilanteissa vanhemmat voivat muistuttaa nuorta myös siitä, miten digitaalisissa ympäristöissä kannattaa käyttäytyä.

Some-jäteillä olisi petrattavaa

Miten nuoren tai vanhemman kannattaa toimia tilanteessa, jossa hän törmää tekoälyllä tuotettuun kiusaamissisältöön verkossa? Ensimmäiseksi Rahja suosittelee tekemään sisällöstä ilmiannon verkkopalvelun ylläpitäjälle.

Joskus netissä tapahtuva kiusaaminen voi ylittää jopa rikoksen tunnusmerkistön. Kiusaajan vastuuta ei poista se, vaikka sisältö olisikin luotu tekoälyllä.

– Nuoret kaipaavat tietoa siitä, miten tunnistaa rikoksen rajat digitaalisissa ympäristöissä, Rahja pohtii.

Tarvittaessa tekoäly- tai nettikiusaamisen takia voi kääntyä myös koulun tai harrastusten puoleen. Näin kannattaa toimia, jos kiusaamista ilmenee selvästi esimerkiksi koululaisten tai harrastusporukan nuorten keskuudessa.

Vaikka verkossa tapahtuvasta kiusaamisesta raportoisikin alustan ylläpitäjälle, ilmianto ei aina johda haluttuun lopputulokseen. Yleisessä tiedossa on, että suurimmilla sosiaalisen median alustoilla on vakavia puutteita vihapuheeseen ja muuhun asiattomaan sisältöön puuttumisessa. Nuoret ja nettikiusaaminen -kyselyn tuloksissa nousi esiin myös kokemuksia, että käyttäjien on vaikeaa edes saada yhteyttä alustan ylläpitoon tai moderointiin.

– Näillä alustoilla on kuitenkin paljon vastuuta ja mahdollisuuksia ehkäistä sitä [nettikiusaamista], Rahja muistuttaa.

Rahja toivoo, että asiaan panostettaisiin jatkossa enemmän. Yksi keino tähän on Euroopan unionin digipalvelusäädös, joka korostaa sosiaalisen median yritysten vastuuta.

– Uskon, että sosiaalisen median palveluiden taustalla olevilla yrityksillä olisi enemmän mahdollisuuksia tehdä työtä sen eteen, että alustat olisivat kaikille turvallisempia. Erilaisten tekniikoiden avulla heidän olisi varmasti myös mahdollista estää tällaista [tekoälyllä luotua] kiusaamissisältöä, hän arvioi.

Tekoälyn käytöstä kannattaa puhua niin koulussa kuin kotona

Tekoälykiusaamiselta suojautumisessa ei voida vähätellä myöskään ennaltaehkäisyn merkitystä. Käytännössä se voi tarkoittaa esimerkiksi sitä, että lasten ja nuorten kanssa käydään selvästi läpi säännöt, millaisiin tarkoituksiin tekoälysovelluksia saa ja ei saa käyttää. Sama pätee käytökseen digitaalisissa ympäristöissä laajemminkin.

Vaikka kouluissa tehdään jo nyt paljon työtä mediakasvatuksen parissa, tekoäly on uusi ilmiö vielä koulumaailmassa – kuten suuressa osassa muutakin yhteiskuntaa. Se tuo haasteita myös opetukseen.

– Esimerkiksi digitaitojen opettelu ei kouluissa tällä hetkellä ole kovin yhdenvertaista. Usein opetus on kiinni opettajan omista lähtökohdista, Rahja huomauttaa.

Hänen mukaansa olisikin hyvä, että opettajille tarjottaisiin riittävästi täydennyskoulutusta digitaalisista teemoista, kuten tekoälystä.

Rahja huomauttaa, että koulu ei ole ainoa paikka, jonka vastuulla on puhua lapsille ja nuorille tekoälyn käytöstä. Asiaa voidaan käsitellä myös kotona.

Lasten ja nuorten mediakasvatuksessa on keskeisessä roolissa myös kolmas sektori. Esimerkiksi Mannerheimin lastensuojeluliitto on järjestänyt nuorille mediakasvatusta vuosikymmenien ajan. Tänä syksynä toteutetaan toista kertaa Superdigikoulu-hanke, jonka tarkoituksena on opettaa nuorille digitaitoja. Yksi käsiteltävistä teemoista on myös tekoälyn käyttö. Yläkouluihin suunnatun hankkeen tarkoituksena on opettaa nuorille turvallisia tapoja toimia digitaalisessa ympäristössä ja tuoda esiin, millaisia mahdollisuuksia ja riskejä esimerkiksi tekoälyn käyttöön liittyy.

Kiusaamisen taustalla olevat syyt pysyvät samoina, mutta tekotavat muuttuvat

Kyselytuloksissa on viitteitä myös siitä, ketkä tyypillisimmin törmäävät tekoälyllä tuotettuun sisältöön. Vastausten mukaan sisältöön törmää tyypillisimmin noin 15-vuotias poika, joka on aktiivinen esimerkiksi Reddit-palvelussa tai Facebookissa ja viettää palveluissa yli viisi tuntia vuorokaudessa.

Vastaavasti epätodennäköisemmin kiusaamissisältöön törmäsi 13-vuotias tyttö, joka käytti lähinnä Whatsappia ja vietti vähemmän aikaa muissa sosiaalisen median kanavissa. Sosiaalisen median käytön tavoilla ja määrällä on siis selvä yhteys siihen, kuinka todennäköisesti kiusaamissisältöön törmää.

– Tavallaan se on aivan loogista. Mitä enemmän vietät aikaa somessa, sen todennäköisemmin törmäät tällaiseen sisältöön, Rahja pohtii.

Myös siitä löytyy viitteitä, ketkä tyypillisesti joutuvat kiusaamissisällön kohteeksi. Rahjan mukaan kohteet ovat usein olleet valmiiksi haavoittuvassa asemassa olevia nuoria. Tällä hän tarkoittaa esimerkiksi seksuaalivähemmistöihin tai muihin vähemmistöihin kuuluvia nuoria.

Kiusatun sukupuolella on merkitystä siihen, millaista kiusaamissisältöä hänestä levitetään. Kuten jo aiemmin tuli ilmi, etenkin tytöistä levitetään alastonkuvia ja muuta seksuaalissävytteistä sisältöä.

– Pojat korostivat nähneensä enemmän sellaista sisältöä, jota on tehty muista nuorista tai julkisuuden henkilöistä.

Hänen mukaansa sukupuolten välillä voidaan nähdä jotain eroja itse koetun nettikiusaamisen suhteen. Tulosten mukaan tytöt kokevat nettikiusaamista poikia enemmän, useimmiten ryhmän ulkopuolelle tai huomiotta jättämisen muodossa. Poikien kohdalla epäsuora ilkeä vihjailu tai vitsiksi naamioitu kiusaaminen ovat yleisimpiä omakohtaisesti koetun kiusaamisen muotoja. Muunsukupuoliset kohtaavat kaikkia kysyttyjä nettikiusaamisen muotoja tyttöjä ja poikia useimmin.

Osittain tekoälykiusaamisen taustalla ovat samat tekijät kuin perinteisemmissä kiusaamisen muodoissa. Uuden teknologian myötä kiusaamisen muoto vain on muuttunut.

Rahjan mukaan huolestuttavinta lisääntyvässä tekoälysisällössä on se, että olemme kokeneet vasta niin sanotun tekoälyn ensimmäisen aallon. Tekoälyn kehittyessä on olemassa riski, että kiusaamissisällöt voivat olla tulevaisuudessa entistä aidomman oloisia tai tekoälyn avulla kiusattua voidaan häiritä entistä järjestelmällisemmin.

– Toivon, että samalla kun teknologia kehittyy, kehittyisi myös ihmisten oma harkinta ja medialukutaito, Rahja korostaa.

LUE MYÖS:
Yhä useampi nuori hyväksyy kiusaamisen – ”Jos toinen on ruma tai ärsyttävä”

Syömishäiriö voi kehittyä huomaamatta – nämä merkit paljastavat

Kiusataanko lastasi koulussa? Tunnista nämä hälytysmerkit

Huomasitko tämän? Kesäloma voi paljastaa lapsen yksinäisyyden