piia.turunen@mtv.fi
Tekoäly-yhtiö OpenAI on vastannut huoleen siitä, miten itsetuhoisuuteen taipuvaiset käyttäjät otetaan huomioon ChatGPT-palvelussa. Aiheesta uutisoi BBC.
Tekoäly-yhtiö OpenAI on julkaissut tietoa vakavista mielenterveyden häiriöistä kärsivien ChatGPT-käyttäjien määrästä, kertoo BBC.
Tuore arvio on, että noin 0,07 prosentilla tietyn viikon aikana aktiivisista ChatGPT:n käyttäjistä oli havaittavissa merkkejä maanisista, psykoottisista tai itsetuhoisista ajatuksista.
ChatGPT saavutti hiljattain toimitusjohtaja Sam Altmanin mukaan 800 miljoonaa aktiivista viikkokäyttäjää, joten pieneltä kuulostavan prosenttiosuuden takana on satojatuhansia ihmisiä.
Yhtiön arvion mukaan vielä suurempi määrä eli 0,15 prosenttia ChatGPT:n käyttäjistä käy tekoälybotin kanssa keskusteluja, joissa on selviä viitteitä mahdollisista itsemurha-ajatuksista.
OpenAI kertoo, että asiaan on reagoitu chatbotin viimeisimmissä päivityksissä. Yhtiö kuvailee chatbotin tunnistavan herkät keskustelut ja reagoivan niihin asianmukaisesti.
OpenAI sanoo rakentaneensa maailmanlaajuista asiantuntijaverkostoa, johon kuuluu yli 170 psykiatria, psykologia ja perusterveydenhuollon lääkäriä 60 maasta. Nämä asiantuntijat ovat OpenAI:n mukaan laatineet ChatGPT:hen joukon vastauksia, joilla kannustetaan käyttäjiä hakemaan apua tosimaailmassa.
ChatGPT:n tapaa vuorovaikuttaa käyttäjiensä kanssa on haastettu viime aikoina oikeudessa asti. Yhdysvalloissa Kaliforniassa 16-vuotiaana menehtyneen Adam Rainen vanhemmat lähtivät oikeustaistoon yritystä vastaan väittäen, että pojan päätyminen itsemurhaan viime huhtikuussa syntyi ChatGPT:n kanssa käytyjen keskusteluiden myötä.
Yhdysvaltain Greenwichissä murha-itsemurhasta epäilty henkilö oli puolestaan julkaissut ChatGPT:n kanssa käymiään, tuntikausia kestäneitä keskusteluja, jotka näyttivät ruokkineen tekoon johtaneita harhoja.
BBC:n haastattelema professori Robin Feldman kiittelee OpenAI:ta tilastojen jakamisesta ja pyrkimyksistä puuttua ongelmaan. Toisaalta Feldman huomauttaa, että jos ihmisen mielenterveys horjuu, varoitukset chat-ruudulla eivät välttämättä mene perille.
Feldmanin mukaan tekoälyyn liittyvät psykoosit koskettavat yhä useampaa, koska chatbotit luovat voimakkaan illuusion todellisuudesta.