Googlen tytäryhtiö Jigsaw kehittää ohjelmistoa, jonka keskusteleva tekoäly voi olla ratkaisu trollaamiselle ja nettihäiriköinnille.
Erilainen netissä häiriköinti ja henkinen väkivalta sosiaalisessa mediassa on muuttumassa eräänlaiseksi sensuuriksi, joka ajaa käyttäjiä pois netistä ja vaientaa heitä. Nettihäiriköt hyökkäävät armotta eriäviä mielipiteitä esittävien kimppuun sosiaalisessa mediassa ja kommenttipalstoilla.
Googlen tytäryhtiö Jigsaw on kuitenkin kehittämässä ohjelmistoa vastalääkkeeksi trollaamiselle ja nettihäiriköinnille.
Ohjelmiston tarkoitus on oppia havaitsemaan automaattisesti loukkaavaa ja häiritsevää kieltä. Sen pitäisi vielä suoriutua tehokkaammin kuin sanasuodattimet ja nopeammin kuin moderaattorit.
Youtube ja Facebook ovat taistelleet trolleja vastaan jo vuosia luottaen siihen, että käyttäjät merkitsevät asiattomia kommentteja myöhempää valvontaa varten. Tämä on kuitenkin kallis konsti ja myös raskas urakka valvojille, jotka joutuvat lukemaan läpi loputtomasti sosiaalisen median törkyviestejä.
Koneoppimisesta apua kehittämisessä
Jigsaw opetti ohjelmistoaan erottamaan asiallisen keskustelun häiriköinnistä apunaan New York Timesin verkkouutisten kommentit. Aineistossa oli erikseen merkitty asiattomat kommentit, jotta ohjelmisto oppisi erottamaan vihapuheen lukuisten esimerkkien kautta.
Lukuisten esimerkkien opettaminen koneellisesti on tehokkaampi tapa kehittää tekoälyä kuin algoritmien ohjelmoiminen.
Jigsaw aikoo tehdä keskustelevasta tekoälystään avoimen lähteen ohjelmiston, jotta kaikki halukkaat keskustelualueet ja sosiaaliset median palvelut saavat sen käyttöönsä.
Ohjelmisto merkitsisi automaattisesti asiattomat kommentit, nuhtelisi ahdistelijoita ja tarvittaessa jopa poistaisi törkyviestit.
Kommentointia valvovalle tekoälylle löytyy myös epäilijöitä. Pahimmassa tapauksessa sitä käytetään asiallisen keskustelun tukahduttamiseen ja sananvapauden rajoittamiseen. Googlen myös arvellaan lopulta hyötyvän taloudellisesti ohjelmistosta.
Jigsawn perustajan ja johtajan, Jared Cohenin menneisyys Yhdysvaltain ulkoministeriössä on myös herättänyt epäilyksiä ohjelmiston valtiollisista tarkoitusperistä. Cohen on kuitenkin itse myöntänyt, että jos ohjelmisto ei toimi toivotulla tavalla, on hän valmis sulkemaan projektin.
– Kun tarkastellaan häiriköintiä internetissä ja sananvapautta, on niiden välillä havaittavissa jännitettä, Cohen sanoo.
– Emme väitä, että meillä olisi ratkaisu kaikkeen.