Googlen tytäryhtiö Jigsaw kehittää ohjelmistoa, jonka keskusteleva tekoäly voi olla ratkaisu trollaamiselle ja nettihäiriköinnille.
Erilainen netissä häiriköinti ja henkinen väkivalta sosiaalisessa mediassa on muuttumassa eräänlaiseksi sensuuriksi, joka ajaa käyttäjiä pois netistä ja vaientaa heitä. Nettihäiriköt hyökkäävät armotta eriäviä mielipiteitä esittävien kimppuun sosiaalisessa mediassa ja kommenttipalstoilla.
Googlen tytäryhtiö Jigsaw on kuitenkin kehittämässä ohjelmistoa vastalääkkeeksi trollaamiselle ja nettihäiriköinnille.
Ohjelmiston tarkoitus on oppia havaitsemaan automaattisesti loukkaavaa ja häiritsevää kieltä. Sen pitäisi vielä suoriutua tehokkaammin kuin sanasuodattimet ja nopeammin kuin moderaattorit.
Youtube ja Facebook ovat taistelleet trolleja vastaan jo vuosia luottaen siihen, että käyttäjät merkitsevät asiattomia kommentteja myöhempää valvontaa varten. Tämä on kuitenkin kallis konsti ja myös raskas urakka valvojille, jotka joutuvat lukemaan läpi loputtomasti sosiaalisen median törkyviestejä.
Koneoppimisesta apua kehittämisessä
Jigsaw opetti ohjelmistoaan erottamaan asiallisen keskustelun häiriköinnistä apunaan New York Timesin verkkouutisten kommentit. Aineistossa oli erikseen merkitty asiattomat kommentit, jotta ohjelmisto oppisi erottamaan vihapuheen lukuisten esimerkkien kautta.
Lukuisten esimerkkien opettaminen koneellisesti on tehokkaampi tapa kehittää tekoälyä kuin algoritmien ohjelmoiminen.
Jigsaw aikoo tehdä keskustelevasta tekoälystään avoimen lähteen ohjelmiston, jotta kaikki halukkaat keskustelualueet ja sosiaaliset median palvelut saavat sen käyttöönsä.
