Teslan autopilotin saa helposti sekaisin yksinkertaisella lennokilla – robottiauto reagoi heijastekuviin

The Next Web kertoo, että huolimatta monimutkaisista ja lukuisista antureistaan, kehittyneestä tekoälystään ja tuhansien tuntien kehitystyöstä, autopilotilla ajavia autoja saa hämättyä kaupan hyllyltä saatavilla lennokeilla.

Aiemmat hyökkäykset autopilotteja vastaan ovat vaatineet tien fyysistä peukaloimista.

Israelilaisen Ben-Gurionin yliopiston tutkijat jujuttivat tekoälykuskin varassa huristelevia autoja, kuten Tesla Model X:ää, lyömään jarrut pohjaan, tekemään äkillisiä väistöliikkeitä tai ohjattua ajokin vastaantulevien kaistalle.

Auton eteen heijastetaan ihmisen kuva

Temppuun riitti lennokki, joka projektorilla heijastaa auton eteen kaksiulotteisen kuvajaisen tiellä olevasta ihmisestä, autosta tai moottoripyörästä.

Siinä missä ihminen huomaa, että kyseessä on selkeästi pelkkä optinen illuusio, auto ei tätä erottelua osaa tehdä. Se tekee heti parhaansa säästääkseen ihmishenkiä, kuten sen pitääkin.

Tutkijat saivat Teslan vaihtamaan kaistaa heijastamalla asfaltille edessä olevasta mutkasta kertovia merkkejä.

He saivat robottiautot reagoimaan myös muihin kuvajaisiin, kuten puuhun heijastettuun liikennemerkkiin.

Tätä strategiaa voidaan käyttää myös hakkeroimalla tien varressa olevia mainoksia, ja näyttämällä niiden ruudulla esimerkiksi nopeusrajoituksia.

Tutkijat huolestuivat

Tutkijoiden pitävät illuusiohyökkäyksiä huolestuttavana. Niitä voidaan tehdä etäältä, mikä on itsessään jo pelottavaa, mutta autojen hämäämiseen riittää vain silmänräpäys: tekoälykuskin jujuttamiseen riittää vain sekunnin murto-osan ajaksi heijastettu kuvajainen. Tempun saa siis suoritettua niin nopeasti, että ihminen ei sitä havaitse, saati sitten ehdi asiaan reagoida, ellei satu katsomaan juuri siihen kohtaan mihin heijastus hetkeksi ilmestyy.

Tutkijat ovat ilmoittaneet löydöksistään autojen valmistajille, jotta nämä voivat kehittää järjestelmiään erottamaan aidot asiat ja harhakuvat. Tekoälyn kouluttaminen tällä tavalla ei ole millään tavalla mahdotonta, sillä tutkijat itsekin onnistuivat kehittämään algoritmin, joka osaa erottaa haamut tarkastelemalla kuvan kontekstia, pintaa sekä kuvajaisen liikkeitä.

Tutkimus on hyvä muistutus siitä, että autopilotin varaan ei pidä laskea, vaan kädet on pidettävä ratissa yllättävien tilanteiden varalta.