Kuka vastaa, jos robotti tekee virheen? – Oikeuskansleri Pöysti kiirehtii pelisääntöjä tekoälyn käyttöön

Migri joutunee vielä odottamaan

Suomessa automaattista päätöksentekoa koskeva lainsäädäntö vaatii vielä oikeusministeriön johdolla tehtävää valmistelua ennen kuin uusia ehdotuksia viedään eteenpäin, sanoo Pöysti. Esimerkiksi Maahanmuuttovirasto Migri on halunnut automaattisesta päätöksenteosta apua käsittelyruuhkaansa, mutta eduskunnan perustuslakivaliokunta ei näytä sille vihreää valoa.

Valiokunta antoi torstaina erittäin tiukan lausunnon hallituksen lakiesityksestä, joka sallisi Migrin hoitaa tietyissä rajoissa kansalaisuuspäätösten ja oleskelulupien käsittelyä täysin automaattisesti.

Lue myös: Mikkoa kiusattiin julmasti ala-asteelta yliopistoon: "Minua lyötiin vasaralla ja kaulallani pidettiin puukkoa" – Hänestä tuli algoritminero, joka kaapattiin Nokialle 22-vuotiaana

– Perustuslakivaliokunnan lausunnon perusteella maahanmuuttohallinnon automaattista päätöksentekoa koskevaa esitystä ei pitäisi enää viedä eteenpäin eduskunnan hallintovaliokunnassa, arvioi Pöysti.

Perustuslakivaliokunnan mielestä tällaisissa tapauksissa ei ole aihetta edetä yksittäisillä lakiehdotuksilla ennen kuin automatisoitua päätöksentekoa koskeva yleislainsäädäntö on kunnossa.

– Yleislainsäädäntö ei ole kuitenkaan vielä ollenkaan siinä vaiheessa, että se tulisi pian voimaan, sanoo Pöysti.

Oikeusministeriössä vasta kartoitetaan lainsäädännön tarpeita, sääntelyn malleja sekä perustuslaista, perusoikeuksista ja ihmisoikeuksista tulevia reunaehtoja.

Pöystin mielestä perustuslakivaliokunnan kanta on johdonmukainen. Esimerkiksi viime vaalikauden lopussa kaatui hallituksen vastaava esitys siitä, että Kansaneläkelaitos voisi alkaa hyödyntää tekoälyä päätöksenteossa.

Migrin tapauksessa hallituksen näkemys oli, että organisaation ylin johtaja olisi yleisvastuussa koneen tekemistä päätöksistä. Perustuslakivaliokunnan mielestä virkavastuun kohdistaminen viraston yleisjohtamisesta vastaavaan ylijohtajaan on näennäinen ja keinotekoinen.

Mitä valmiimpi kone on, sitä helpommin siihen nojataan

 Tietyissä tilanteissa myönteisten päätösten tekeminen tekoälyn voimin on jo mahdollista erityislainsäädännön sallimana. Esimerkiksi kestävän metsätalouden rahoituksessa on mahdollista käyttää kokonaan automaattista päätöksentekoa.

– Automatisoitu luottoluokitus voi kuitenkin muodostua käytännössä syrjiväksi. Kategorisointi voi aiheuttaa virheitä ja vinoumia.

Pöystin mukaan päätöksenteon tukena tekoälyn käyttö on yleisempää. Silloin kone avustaa, mutta ihminen tekee lopullisen päätöksen.

– Näkemykseni laillisuusvalvojan näkökulmasta on, että liian isoa eroa ei näiden välille voi tehdä. Kovassa työpaineessa ihmisen mahdollisuudet arvioida asiaa eri tavalla kuin kone voivat jäädä käytännössä näennäisiksi.

Lue myös: Ratkaiseeko kodin kaiuttimien tekoäly mystisen kuolemantapauksen? Nainen kuoli oudosti parisuhderiidan aikana: "Tämä oli nainen, jota hän rakasti"

Pöysti uskoo, että mitä valmiimmin kone toimii, sitä helpommin ammattilainen siihen työpaineessa nojaa. Toisaalta automaattinen päätöksenteko voi parantaa monissa tapauksissa päätösten laatua ja tehokkuutta.

– Minulla ei ole tiedossa, että Suomessa olisi koneen tekemänä tapahtunut mitään sen kummempia vahinkoja kuin mitä tapahtuu inhimillisessäkään toiminnassa. Mutta mitä itsenäisemmäksi automaattinen päätöksenteko tulee ja mitä enemmän siihen nojaudutaan, sitä tärkeämmäksi tulee käydä keskustelu vastuun jakamisesta ennakoivasti.

Riskinä terveystietojen vuotaminen

Yksityisellä puolella automaattinen päätöksenteko ja profilointi on sallittu Euroopan unionin tietosuoja-asetuksen raameissa.

Profiloinnilla tarkoitetaan mitä tahansa henkilötietojen automaattista käsittelyä, jossa henkilötietoja käyttämällä arvioidaan tiettyjä henkilökohtaisia ominaisuuksia.

Pöystin mielestä on hyvä pohtia, missä määrin koneen tekemä arvio voi muodostua ongelmalliseksi itseään toteuttavaksi ennusteeksi, jos se poimii esimerkiksi työterveyshuollossa riskiryhmät.

– Tarvitaan selkeät pelisäännöt siihen, missä määrin se jää vain potilaan ja terveydenhuollon ammattilaisen väliseksi asiaksi ja missä määrin tieto voi millään tavoin vuotaa työnantajalle.

Ihmisen ja laitteiden välistä vuorovaikutusta ja siihen liittyviä riskejä on aikaisemmin mietitty erityisillä turvallisuusteknologian alueilla, kuten lentoliikenteen, avaruuslentojen ja osittain ydinvoimaloiden yhteydessä.

– Nyt kun puuhataan itse ajavia autoja, tämä logiikka täytyy siirtää erityisammattilaiskontekstista koskemaan kaikkia niitä laitteita, missä teknologiaa käytetään. Ihmisen ja koneen välinen suhde ja sen ohjaaminen osittain lainsäädännöllä, osittain vastuuta jakamalla, koulutuksella ja eettisellä ohjelmalla on osa uuden teknologian ottamista haltuun arjessa. 

Lue myös: Terminator ei ole enää pelkkää fiktiota: Turkki esitteli itseohjautuvan tappajadroonin – sotarobottia pelottavampi ajatus on kuitenkin sen hakkeroiminen: "Todellinen uhka on tälläkin hetkellä olemassa"