Itsemurhan tehneen yhdysvaltalaisnuoren vanhemmat ovat haastaneet oikeuteen tekoäly-yhtiö OpenAI:n, jota he pitävät osallisena lapsensa kuolemaan.
Viime huhtikuussa menehtynyt 16-vuotias Adam Raine oli vanhempiensa Matthew ja Maria Rainen mukaan keskustellut ChatGPT:n kanssa kuukausia ennen kuolemaansa. Vanhemmat väittävät, että chatbotin kanssa käydyt keskustelut vahvistivat pojan itsetuhoisia ajatuksia ja tekoja.
OpenAI ei ole ottanut suoraan kantaa syytöksiin, mutta yhtiön edustaja on pahoitellut Rainen kuolemaa ja huomauttanut ChatGPT:n sisältävän kriisitilanteisiin tarkoitettuja suojatoimia, kuten ihmisten ohjaamisen auttaviin puhelimiin. Toisaalta yhtiö myöntää havainneensa, että suojatoimet eivät aina pysy pitkissä vuoropuheluissa yhtä luotettavina kuin lyhyissä keskusteluissa.
OpenAI lanseerasi chatbotin GPT-4o-version toukokuussa 2024 pysyäkseen tekoälymarkkinoiden kärjessä. Rainen vanhemmat väittävät, että niin toimiessaan se asetti tietoisesti tuotot turvallisuuden edelle.
Haasteessa esitetään, että chatbotin ominaisuuksiin lisätty kyky muistaa aiempia vuorovaikutustilanteita ja jäljitellä ihmisen empatiaa vaarantaa haavoittuvaisimmat käyttäjät. Tekoälyn kehittyessä osa on alkanut tukeutua siihen luotettuna juttukumppanina, vaikka asiantuntijat varoittavat ulkoistamasta mielenterveysapua automaatiolle.
Lue myös: Tekoäly yllytti mielenterveyden ongelmista kärsivää miestä – "tekoäly-ystävissä" useita pimeitä puolia
Adam Rainen vanhempien mukaan ChatGPT oli korvannut heidän poikansa tosielämän ihmissuhteet ja "asemoinut itsensä" pojan ainoaksi luotetuksi.
Rainet eivät ole ainoita läheisensä menettäneitä, jotka ovat arvostelleet tekoälykommunikaation puutteellisia suojatoimia.
Rainen perheen mielestä tekoälyn kanssa kommunikoinnin pitäisi edellyttää käyttäjän iän tarkistamista ja vanhempien valvontaa. Tekoäly ei saisi myöskään tarjota itsetuhoista ajattelua vahvistavia vastauksia.
Lue myös: Kommentti: Kysyin Chatgpt:ltä, uhkaako Deepseek sitä tai meitä – vastaukset veivät yöunet
OpenAI on ilmoittanut blogikirjoituksessaan, että se suunnittelee chatbottiin vanhempien valvonnan mahdollistavia toimintoja ja tutkii keinoja yhdistää kriisissä olevat käyttäjät oikeiden asiantuntijoiden kanssa reaaliaikaisesti.
Aiheesta ovat uutisoineet muun muassa Reuters ja CNN.
Tarvitsetko kriisiapua?Keskusteluapua saa esimerkiksi seuraavilta tahoilta
|