Tekoäly voi pian tunnistaa itsetuhoiset netinkäyttäjät – Google-haut ja some-päivitykset paljastavat enemmän kuin arvaisitkaan

Yksittäisten auttajien olisi lähes mahdotonta käydä järjestelmällisesti läpi esimerkiksi sosiaalisenmedian sisältöjä ja etsiä sieltä hälyttäviä merkkejä riskikäyttäytymisestä, sillä datamäärät ovat valtavia.

Nyt moni tekniikkayritys, kuten Facebook, Google, Yahoo ja Instagram onkin kiinnostunut tekoälyn kasvavasta hyödyntämisestä.

Päivitys saattaa paljastaa alamäen

Facebook on ohjelmoinut tekoälyn haravoimaan käyttäjiensä päivityksiä, kuvia ja kommentteja. Jos tietyt kriteerit täyttyvät, se hälyttää ihmistiimin arvioimaan tapauksen, joka puolestaan mahdollisesti päätyy ehdottamaan yksittäiselle käyttäjälle avun hankkimista.

Tekoäly etsii siis ihmisen viestinnästä algoritmiensä avulla tiettyjä merkkejä pahoinvoinnista. Algoritmit on luotu analysoimalla aiemmin ”riskipäivityksiksi” todettujen sisältöjen kieltä.

Kokeilu on käynnissä parhaillaan Yhdysvalloissa. Jos se tuottaa hyviä tuloksia, sitä saatetaan laajentaa myös muihin maihin. Facebook on kertonut kehittäneensä menetelmää yhdessä terveysalan ammattilaisten kanssa.

Facebookissa on kokeiltu myös ominaisuutta, joka sallii käyttäjän raportoida arveluttavasti käyttäytyvästä ja mahdollisesti apua tarvitsevasta toisesta käyttäjästä sovellukselle.

Myös Live-lähetykset ovat luoneet painetta hälytysnapille. On ollut tapauksia, joissa yksittäiset ihmiset ovat tehneet itsemurhia suorassa videolähetyksessä. Itsetuhoisesti käyttäytyvästä henkilöstä voi vinkata Facebookille, joka lähettää avuntarjousviestin suoraan riskihenkilön näyttöpäätteelle kesken lähetyksen.

Tekoäly kiinnostaa muitakin

Facebook ei ole ainoa tekoälyn mahdollisuuksista innostunut yritys. Google ja Yahoo ovat kokeilleet tekoälyä esimerkiksi nettitrollien tunnistamisessa nettikeskusteluista.

Instagramissa pyritään tunnistamaan mielenterveysongelmista kärsiviä käyttäjiä. Uuden työkalun avulla käyttäjä voi raportoida sovellukselle anonyymisti löytämistään huolestuttavista kuvista tai videoista. Silloin riskialttiisti käyttäytynyt henkilö saa sovellukselta viestin, jossa kerrotaan jonkun toisen käyttäjän huolestuneen päivityksestä ja tarjotaan apua.

Lisäksi tiettyjen hästägien käyttäminen, kuten langanlaihuuden ihannointiin viittaava #thinspo, ohjaa käyttäjän suoraan Instagramin tukisivuille.

Lähde: Wired

***