Verkkorikolliset ovat tehtailleet Grokin avulla riisuntakuvia 11–13-vuotiaista tytöistä, kertoi kansalaisjärjestö Britanniassa, jossa puntaroidaan X:n kieltoa.
Miljardööri Elon Muskin omistaman sosiaalisen median alusta X:n Grok-tekoäly on saanut useamman maan viranomaiset varpailleen, koska sovellus on generoinut käyttäjistä lain rajoja koettelevaa sisältöä.
Kohun keskiössä on Grokin uusi kuvien ja videon generoinnin Imagine-ominaisuus, jolla käyttäjät voivat pyytää tekoälyä generoimaan uuden, muokatun version toisen käyttäjän julkaisemasta sisällöstä.
Ominaisuus johti siihen, että X-alustalle tulvi naisista ja tytöistä tekoälyn avulla tehtailtua sisältöä, joissa heiltä on riisuttu vaatteet tai heidät on asetettu nöyryyttäviin seksuaalisiin tilanteisiin.
Britanniassa hallitus on väläyttänyt jopa mahdollisuutta, että pääsy X-alustalle estettäisiin kokonaan, kertoo BBC. Maan viestintävirasto Ofcom kertoi maanantaina käynnistäneensä asiasta tutkinnan.
Ranskassa sanomalehti Le Monden mukaan Pariisin syyttäjäntoimisto tutkii asiaa. Rajuimpaan vastatoimeen ryhtyi Indonesia, joka esti kokonaan Grokin käytön.
Lue myös: Elon Muskin tekoälybotti ylisti Hitleriä
Suomessa katsotaan EU:n suuntaan
Myös Suomessa viranomaiset seuraavat tilannetta, vaikka liikenne- ja viestintävirasto Traficom ei olekaan ryhtynyt omiin toimiin X:ää vastaan.
– Tämä on ilman muuta huolestuttava ilmiö, että tekoälypalvelua käytetään tällaisiin tarkoituksiin, kertoo STT:lle liikenne- ja viestintävirasto Traficomin yksikönpäällikkö Jarmo Riikonen.
Suomessa odotetaan, mihin toimiin EU-tasolla päädytään.
– Meidän näkövinkkelistä EU-komissiolla on toimivalta X:n suhteen. Komissio onkin käynnistänyt toimenpiteitä, Riikonen sanoo.
Euroopan komissio on määrännyt X:ää säilyttämään kaikki Grokia koskevat sisäiset asiakirjansa sen varalta, että niitä tarvitaan myöhemmin tutkinnassa. Asiasta kertoi komission tiedottaja uutistoimisto Reutersille viime viikolla.
Alaikäisiä uhrien joukossa
Grokin riisuntakuvien kohteeksi on valikoitunut tiettävästi myös alaikäisiä ihmisiä, joista tuotettu sisältö saattaa pahimmillaan täyttää lapsiin kohdistuvan seksuaalisen hyväksikäyttösisällön (CSAM) määritelmän.
Britanniassa toimiva kansalaisjärjestö IWF kertoi Guardianin mukaan, että pimeässä verkossa anonyymisti keskustelevat verkkorikolliset ovat kehuneet onnistuneensa luomaan Grokilla siveettömiä kuvia 11–13-vuotiaista tytöistä. Järjestön analyytikkojen mukaan kuvat olivat Britannian lain vastaisia.
Liikenne- ja viestintäministeriöstä (LVM) kerrotaan STT:lle, että Suomella ei ole omaa toimivaltaa valvoa X:ää, koska valvonta perustuu EU:ssa alkuperämaahan, joka EU:ssa useimpien yhdysvaltalaisen teknologiayhtiöiden kannalta on Irlanti.
– Näemme digipalveluasetuksen tehokkaan valvonnan ensisijaisena keinona puuttua erittäin suurten verkkoalustojen laittomaan toimintaan, sanoo LVM:n erityisasiantuntija Roosa Patrakka.
Euroopan komissio valvoo koko EU:n tasolla digijättejä eli erittäin suuria verkkoalustoja, joihin myös X luetaan. Komission valvontaa täydentävä kansallisen tason valvonta kuuluu Irlannille.
Voisiko X:n tai sen tekoälyominaisuuksien käytön estäminen koko EU-alueella tulla harkintaan, jos yhtiö ei suostu muuttamaan käytäntöjään?
– Koko X:n blokkaaminen on teoriassa mahdollista, mutta se on viimesijainen keino. Sitä ennen on pitänyt koettaa käyttää kaikki muut keinot, jotka viranomaisten ja komission toimivaltaan kuuluvat, Traficomin Riikonen sanoo.
X:ää sakotettiin viime vuonna
Jos komissio toteaa, että X on rikkonut digipalveluasetusta, se voi määrätä X:ää muuttamaan toimintaansa. Keppinään sillä on alkuun sakot ja uhkasakot.
Joulukuussa EU sakotti X:ää digipalveluasetuksen rikkomisesta muun muassa läpinäkyvyyden puutteiden vuoksi. Päätöksen vuoksi suomalaiskomissaari Henna Virkkunen joutui X:ssä Elon Muskin henkilökohtaisen kritiikin kohteeksi.
– Rakastat sensuuria enemmän kuin elämää itseään, myönnä pois, Musk kirjoitti vastauksena Virkkuselle.
Musk on väittänyt myös, että Britannian tuore uhkaus estää X riisuntakuvien vuoksi on hyökkäys sananvapautta vastaan.
Kohun jälkeen X on rajoittanut toiminnon käyttöä, mutta ei ole estänyt sitä kokonaan, sillä se on edelleen maksavien asiakkaiden käytettävissä.
Suomen rikoslaissa Grokin tuottama sisältö on saattanut rikkoa lakeja, jotka koskevat kunnianloukkausta tai yksityiselämää loukkaavan tiedon levittämistä.
Tekoälyllä tehtävä kiusaaminen on havaittu ongelmaksi myös Suomessa jo ennen Grokin uutta ominaisuutta.
Mannerheimin Lastensuojeluliiton (MLL) marraskuussa julkaiseman raportin mukaan 13 prosenttia nuorista kertoo kohdanneensa tekoälyllä tuotettua kiusaamissisältöä, kuten tekaistuja alastonkuvia ja deepfake-videoita.