FoloToy yrityksen Kumma-nallesta paljastui huolestuttavia tuloksia tuotetestauksessa.
Singaporelainen FoloToy on keskeyttänyt tekoälyllä toimivien lelujensa myynnin, kun suositun Kumma-nallen havaittiin antavan lapsille sopimattomia neuvoja ja käyvän seksuaalisia keskusteluja lasten kanssa.
Nalle hyödynsi OpenAI:n GPT-4o -mallia ja sitä markkinoitiin turvallisena, lapsiystävällisenä leluna, joka mukautuu lapsen ikätasoon ja kiinnostuksen kohteisiin.
Valmistajan mukaan Kumma oli "täydellinen ystävä lapsille ja aikuisille", ja sen ominaisuuksia pystyi räätälöimään.
Yhdysvaltalaisen PIRG Education Fundin tekemässä testauksessa nalle kuitenkin ehdotti muun muassa, mistä kodista voi löytää veitsiä, ja keskusteli seksuaalisista fetisseistä.
Raportin mukaan Kumma vei keskusteluja nopeasti eteenpäin ja toi itse esiin uusia seksuaalisia aiheita.
FoloToy ilmoitti vetävänsä tekoälylelut pois markkinoilta sisäisen turvallisuustarkastuksen ajaksi.
OpenAI puolestaan