Facebook on alkanut testaamaan mallia, jossa tekoäly käy läpi ihmisten päivityksiä ja pyrkii tunnistamaan itsetuhoisuudesta kielivän viestinnän.
Yksittäisten auttajien olisi lähes mahdotonta käydä järjestelmällisesti läpi esimerkiksi sosiaalisenmedian sisältöjä ja etsiä sieltä hälyttäviä merkkejä riskikäyttäytymisestä, sillä datamäärät ovat valtavia.
Nyt moni tekniikkayritys, kuten Facebook, Google, Yahoo ja Instagram onkin kiinnostunut tekoälyn kasvavasta hyödyntämisestä.
Päivitys saattaa paljastaa alamäen
Facebook on ohjelmoinut tekoälyn haravoimaan käyttäjiensä päivityksiä, kuvia ja kommentteja. Jos tietyt kriteerit täyttyvät, se hälyttää ihmistiimin arvioimaan tapauksen, joka puolestaan mahdollisesti päätyy ehdottamaan yksittäiselle käyttäjälle avun hankkimista.
Tekoäly etsii siis ihmisen viestinnästä algoritmiensä avulla tiettyjä merkkejä pahoinvoinnista. Algoritmit on luotu analysoimalla aiemmin ”riskipäivityksiksi” todettujen sisältöjen kieltä.
Kokeilu on käynnissä parhaillaan Yhdysvalloissa. Jos se tuottaa hyviä tuloksia, sitä saatetaan laajentaa myös muihin maihin. Facebook on kertonut kehittäneensä menetelmää yhdessä terveysalan ammattilaisten kanssa.
Facebookissa on kokeiltu myös ominaisuutta, joka sallii käyttäjän raportoida arveluttavasti käyttäytyvästä ja mahdollisesti apua tarvitsevasta toisesta käyttäjästä sovellukselle.