"Valheellisten, seksuaalisten kuvien luonti naisista ja lapsista on julma hyväksikäytön muoto", sanoo komissaari Henna Virkkunen.
Euroopan komissio aloittaa virallisen tutkinnan sosiaalisen median alusta X:stä ja Grok-tekoälystä, tiedottaa EU. Komissio tutkii, onko yhtiö rikkonut EU:n digipalveluasetusta (DSA).
Tutkinta liittyy seksuaalissävytteiseen sisältöön, jota tekoälysovellus tuotti käyttäjien kuvia muokkaamalla. Grok-tekoälyn avulla käyttäjät saattoivat luoda toisten käyttäjien kuvista riisuttuja, seksuaalissävytteisiä kuvia.
– Tutkinta arvioi sitä, tekikö yhtiö asianmukaisen arvion ja lievittikö se riskejä, jotka liittyivät Grokin toimintojen tuomiseen X:ään EU:n alueella. Tähän kuuluu riski laittoman sisällön jakelusta EU:ssa, sanotaan tiedotteessa.
Komission mukaan tekoälyllä muokattu, seksuaalissävytteinen sisältö saattoi alaikäisten kohdalla täyttää laittoman, lapsiin kohdistuvan seksuaalisen väkivaltamateriaalin tunnusmerkit.
– Valheellisten, seksuaalisten kuvien luonti naisista ja lapsista on julma hyväksikäytön muoto, jota ei voida suvaita. Emme voi hyväksyä sitä, sanoo Instagramissa teknologisesta omavaraisuudesta, turvallisuudesta ja demokratiasta vastaava komissaari Henna Virkkunen.
Uusi tutkinta laajentaa ja jatkaa komission joulukuussa käynnistämää tutkintaa.
Miljardööri Elon Muskin omistama X ilmoitti aiemmin tässä kuussa estäneensä riisuntakuvien luomisen oikeista ihmisistä Grok-tekoälyllä alueilla, joissa tuotettu sisältö saattaa olla laitonta.