FoloToy yrityksen Kumma-nallesta paljastui huolestuttavia tuloksia tuotetestauksessa.
Singaporelainen FoloToy on keskeyttänyt tekoälyllä toimivien lelujensa myynnin, kun suositun Kumma-nallen havaittiin antavan lapsille sopimattomia neuvoja ja käyvän seksuaalisia keskusteluja lasten kanssa.
Nalle hyödynsi OpenAI:n GPT-4o -mallia ja sitä markkinoitiin turvallisena, lapsiystävällisenä leluna, joka mukautuu lapsen ikätasoon ja kiinnostuksen kohteisiin.
Valmistajan mukaan Kumma oli "täydellinen ystävä lapsille ja aikuisille", ja sen ominaisuuksia pystyi räätälöimään.
Yhdysvaltalaisen PIRG Education Fundin tekemässä testauksessa nalle kuitenkin ehdotti muun muassa, mistä kodista voi löytää veitsiä, ja keskusteli seksuaalisista fetisseistä.
Raportin mukaan Kumma vei keskusteluja nopeasti eteenpäin ja toi itse esiin uusia seksuaalisia aiheita.
FoloToy ilmoitti vetävänsä tekoälylelut pois markkinoilta sisäisen turvallisuustarkastuksen ajaksi.
OpenAI puolestaan kertoi CNN:lle keskeyttäneensä kehittäjän toiminnan OpenAI:n käytäntöjen rikkomisen vuoksi.
Maailmalla on edelleen saatavilla runsaasti tekoälyleluja, eikä niiden käyttöä ole säännelty.
Uudenlaiset lelut Suomessa
Suomessa tekoälyllä toimivia leluja myyvät useat jälleenmyyjät, ja osa interaktiivisista leluista luokitellaan STEM-leluiksi (Science, Technology, Engineering & Math).
Esimerkiksi Play-I-Poe, on nalle, joka hyödyntää OpenAI-pohjaista tekoälyä. Nallen ideana on luoda tarinoita yhdessä leikkijän kanssa.
Jälleenmyyjän sivuilla kerrotaan, että lelussa on vahvat perheystävälliset suodattimet.
Tekoälypohjaisia interaktiivisia leluja ovat myös jotkut robottilelut, kuten AiRO AI-robotti. Robotti toistaa ja tunnistaa liikkeitä, ja sille voi opettaa äänikomentoja ja toimintoja.
Robotti oppii pelaamaan, kuljettamaan tavaroita ja jälleenmyyjän mukaan tekee lähes mitä vain, mitä sille opettaa.
Yhdysvaltalaistutkimuksen kaltaista haitallista toimintaa ei ole raportoitu ilmenevän Suomessa myytävissä leluissa.
