Tuhannet Lontoon metroa käyttäneet ihmiset ovat olleet tekoälyn tarkkailemana.
Tekoälykokeilussa tietokoneohjelmisto yritti havaita rikoksia, aseita, kaatumisia ja ilman lippua kulkevia henkilöitä Willesdenin metroasemalla.
Lontoon liikennelaitos testasi useita erilaisia tekoälyalgoritmeja matkustajien toiminnan tunnistamiseksi lokakuun 2022 ja syyskuun 2023 välisenä aikana.
Wired-sivuston saamien tietojen mukaan testin aikana tekoäly antoi 44 000 hälytystä. Tiedoista paljastuu, että tekoäly teki virheitä ihmisten toiminnan tunnistamisessa. Tekoäly saattoi esimerkiksi luulla aikuisten seurassa liikkuneita lapsia ilman matkalippua kulkeviksi henkilöiksi. Poliisi yritti avustaa järjstelmää tunnistamaan aseita pitämällä valvontakameroiden edessä asetta ja machete-veistä aseman ollessa suljettuna.
Lue myös: Ritari Ässä ei ole enää pelkkää kuvitelmaa – tekoälyn ansiosta auton kanssa pystyy pian juttelemaan vaikkapa auton huollosta tai lämpötilasta
Yksityisyysasioihin perehtyneet asiantuntijat ovat kyseenalaistaneet tutkimusaineistoa perehdyttyään esimerkiksi siihen, miten hyvin tekoäly tunnisti esineitä. Asiantuntijoiden mukaan ei ole edes selvää, kuinka moni ihminen oli ollut tietoinen kyseisestä tekoälykokeilusta. Asiantuntijat myös varoittavat, että vastaavat valvontajärjestelmät voidaan tulevaisuudessa helposti laajentaa tunnistamaan tiettyjä ihmisiä. Tämä puolestaan herättäisi useita eettisiä ja lainopillisia kysymyksiä.
8:18