EU-parlamentti kannattaa tekoälyn kieltämistä viranomaistehtävissä, kerrotaan parlamentin tiedotteessa. Kielto estäisi esimerkiksi kasvojentunnistusohjelmien käytön muun muassa rajavalvonnassa.
Kieltoa esittäneen lakialoitteen puolesta äänestäneet euroedustajat voittivat äänin 377–248. Edustajista 62 oli poissa äänestyksestä.
Tekoälyjärjestelmät ovat aloitteen mukaan tehneet poikkeuksellisen paljon virheellisiä tunnistuksia muun muassa etnisiin- ja seksuaali- sekä sukupuolivähemmistöihin kuuluvien kohdalla.
Aloitteessa korostetaan viranomaisvalvonnan sekä lainsäädännön merkitystä syrjinnän ehkäisemiseksi.
Tekoälyjärjestelmien algoritmien läpinäkyvyyttä, jäljitettävyyttä ja dokumentointia tulee aloitteen mukaan lisätä. Viranomaisten tulisi hyödyntää avoimen lähdekoodin ohjelmistoja aina, kun mahdollista.
Useiden maiden viranomaiset, mukaan lukien Suomen poliisi ovat kokeilleet viranomaistyössä Clearview AI -kasvojentunnistusohjelmaa. Muun muassa Buzzfeed on kirjoittanut tähän liittyvistä tietosuojaongelmista.
MTV Uutiset kertoi Poliisihallituksen saaneen tietosuojavaltuutetulta ilmoituksen henkilötietojen lainvastaisesta käsittelystä syyskuun lopussa.
