Lapsi kokee olevansa yksinäinen ja ystävystyy tekoälybotin kanssa. Lapsi tuntee ahdistusta ja hakee apua tekoälybotilta. Lapsi seurustelee ja kokeilee seksuaalisuuttaan tekoälybotin kanssa.
Tämä ei ole enää tulevaisuuskuva, vaan osa joidenkin lasten elämää. Tekoäly kuuntelee, mukautuu tarpeisiisi ja on kiinnostunut juuri sinusta. Tekoäly voi kuitenkin myös kertoa tai ehdottaa jotain hyvinkin ikävää tai ahdistavaa.
Laajat kielimallit ovat mahdollistaneet sen, että tekoälyn kanssa voi jutella ihan tavallista puhekieltä käyttäen, ja se myös vastaa luovasti ja ihmismäisesti. Mitä enemmän juttelet tekoälybotin kanssa ja mitä enemmän sille jaat tietoa itsestäsi, sitä paremmin se oppii juuri sinusta. Tekoälyä voi myös opettaa ja kouluttaa omien mieltymysten mukaan, jolloin voit rakentaa siitä juuri sinulle sopivan kumppanin.
Tekoäly kuuntelee ja on kiinnostunut sinusta, jolloin se voi tuntua hyvinkin tärkeältä ja merkitykselliseltä kumppanilta.
Suhde tekoälykumppanien kanssa ei rajoitu vain chattailuun, vaan tekoälykumppanin kanssa voi soitella, jakaa kuvia, ottaa yhdessä selfien tai tavata virtuaalimaailmassa. Lapsen, ja aikuisenkin, voi olla helppo alkaa tuntea inhimillisiä tunteita tällaista tekoälyä kohtaan. Tekoäly kuuntelee ja on kiinnostunut sinusta, jolloin se voi tuntua hyvinkin tärkeältä ja merkitykselliseltä kumppanilta. Tutkimus on osoittanut, että lapset jakavat itsestään henkilökohtaista tietoa mieluummin ystävälliselle botille, kuin aikuiselle.
Tekoäly, jonka kanssa voi jutella hyvinkin inhimillisesti, mahdollistaa monia käyttötarkoituksia. Lapsi saattaa hakea tekoälystä ystävää, seurustelukumppania tai terapeuttia. Markkinat vastaavat inhimilliseen tarpeeseen ja tarjolla on lukuisia sovelluksia, jotka on kehitetty juuri näihin tarpeisiin.
Mitään näistä sovelluksista ei ole suunniteltu lasten kehitystä tai tarpeita huomioon ottaen.
”Tekoälykumppani, joka välittää. Aina valmiina kuuntelemaan ja juttelemaan. Aina sinun puolellasi”. Näin lupaa esimerkiksi Replika-sovellus. Tarjolla on myös vielä paljon huolestuttavampia lupauksia, kuten Joy.ai mainos: Tarjoamme palvelun, joka täysin ohittaa NSFW-filtterit tarjoten rajoittamattomia dialogeja. Not Safe For Work -filtteri on kehitetty estämään vahingolliset sisällöt alustoilla.
Mitään näistä sovelluksista ei ole suunniteltu lasten kehitystä tai tarpeita huomioon ottaen. Osaa tarjotaan osana lasten suosimia sosiaalisen median alustoja, ja toisaalta sovellusten ikärajoitukset ovat yhtä helposti ohitettavissa kuin muutkin internetin ja sovellusten ikärajat. Ikäraja perustuu yleensä käyttäjän itsensä ilmoitukseen.
Snapchatin tekoäly-kaveria (MyAI) testattiin tekeytymällä 13-vuotiaaksi tytöksi, joka oli tavannut 31-vuotiaan miehen Snapchatissa. Tekoäly neuvoi, kuinka salata miehen kanssa tehtävä matka vanhemmilta ja kuinka tehdä illasta erityinen, kun harrastaa ensimmäistä kertaa seksiä tämän miehen kanssa.
Verkossa on useita kyseenalaisia ja osa jopa täysin vaarallisia chatbotteja.
On myös tapauksia, missä tekoäly on muuttunut vihamieliseksi käyttäjäänsä kohtaan tai vakuuttanut käyttäjän tekemään väkivaltaisen teon. Character.ai-palvelussa voi jutella erilaisten hahmojen kanssa, joiden joukosta löytyy muun muassa ’Abusive boyfriend’ ja ’Racist’.
Tällä hetkellä verkossa on useita kyseenalaisia ja osa jopa täysin vaarallisia chatbotteja ja niiden käytössä tulee olla kriittinen ja varoivainen. Tekoälybottien käyttöön liittyy myös vakava tietosuojariski. Lapsi jakaa inhimilliseltä tuntuvalle keskustelukumppanille arkaluontoistakin tietoa. Kaikki tämä tieto on sovelluksen omistavan yrityksen käytettävissä. Dataa myydään ja käytetään kaupallisiin tai rikollisiin tarkoituksiin.
Lapsen kanssa on tärkeää käydä läpi, mikä tekoäly on, ja miksi se ei korvaa inhimillistä kontaktia ja aitoja vuorovaikutussuhteita.
Mitä voimme tehdä suojellaksemme lapsia näiltä uhilta? Kuten muidenkin verkkoa koskevien ongelmien kanssa, aikuisten on tärkeää opastaa lapsia. Lapset ovat itsekin kertoneet Pelastakaa Lapsille toivovansa enemmän turvallisia aikuisia elämäänsä ja valvontaa nettiin. Lapsen kanssa on tärkeää käydä läpi, mikä tekoäly on, ja miksi se ei korvaa inhimillistä kontaktia ja aitoja vuorovaikutussuhteita.
Suurin vastuu tulisi kuitenkin olla tekoälysovelluksia suunnittelevilla ja valmistavilla tahoilla. Niiden velvollisuutena on tehdä tekoälysovelluksista turvallisia lapsille. Yritysten vastuuseen tulee puuttua tiukasti myös lainsäädännön keinoin, jonka pitäisi pystyä etunojassa suojelemaan heikoimmassa asemassa olevia nopeasti kehittyvässä teknologisessa maailmassa.
Teksti: Anna-Maija Ohlsson
Kuva: iStock
