Facebookin tekoäly merkitsi tummaihoiset ihmiset eläimiksi – somejätti pahoittelee

2:19
Video: Sosiaalinen media on räjäyttänyt vihapuheen määrän.

Facebookin tekoälylle sattui ikävä erehdys. 

Aina välillä tulee sellainen olo, että tekoälyä on taas käytetty turhan innokkaasti sen todellisia kykyjä, tai kyvyttömyyttä, ymmärtämättä.

Yksi tällainen esimerkki tulee Facebookilta, joka on nyt pahoitellut tapaa, jolla tekoäly on virheellisesti tunnistanut ja merkinnyt videon sisältöä.

Kyse on brittiläisen Daily Mailin kesäkuussa julkaisemasta videosta, jossa esiintyy tummaihoisia miehiä. Kun video on katseltu, on Facebook kysynyt, haluaisiko katsoja katsella lisää videoita kädellisistä (engl. ”primates”). Siis nisäkäslahkosta, johon toki ihmisetkin sisältyvät, mutta jolla yleensä viitataan esimerkiksi erilaisiin apinoihin.

Facebokin oma tekoäly on videon sisällön arvioinut ja sen perusteella sille tunnisteet luonut.

Yhtiö on nopeasti poistanut järjestelmän käytöstä, kun virheelliset merkinnät ovat tulleet julki. Yhtiö pahoittelee virhettään ja aiheuttamaansa mielipahaa. Yhtiön edustajan mukaan tekoälyn kehittämisessä selvästikin riittää vielä työsarkaa.

Aiheesta uutisoineen Vergen mukaan Facebookin moka on vain yksi monista tapauksista, joissa tekoälyllä on ollut ihonväriin tai sukupuoleen liittyviä ongelmia. Esimerkiksi vuonna 2015 Google pahoitteli, kun sen Kuvat-sovellus merkitsi tummaihoisia ihmisiä gorilloiksi.

Lue myös:

    Uusimmat

    Sivusto ei tue käyttämääsi selainta. Suosittelemme vaihtamaan tuettuun selaimeen. Lisätietoja