Teslan autopilotin saa helposti sekaisin yksinkertaisella lennokilla – robottiauto reagoi heijastekuviin
Israelilainen yliopisto selvitti, että Teslaa voi hämätä yksinkertaisilla kikoilla – jopa syöksymään vastaantulevien kaistalle.
The Next Web kertoo, että huolimatta monimutkaisista ja lukuisista antureistaan, kehittyneestä tekoälystään ja tuhansien tuntien kehitystyöstä, autopilotilla ajavia autoja saa hämättyä kaupan hyllyltä saatavilla lennokeilla.
Aiemmat hyökkäykset autopilotteja vastaan ovat vaatineet tien fyysistä peukaloimista.
Israelilaisen Ben-Gurionin yliopiston tutkijat jujuttivat tekoälykuskin varassa huristelevia autoja, kuten Tesla Model X:ää, lyömään jarrut pohjaan, tekemään äkillisiä väistöliikkeitä tai ohjattua ajokin vastaantulevien kaistalle.
Auton eteen heijastetaan ihmisen kuva
Temppuun riitti lennokki, joka projektorilla heijastaa auton eteen kaksiulotteisen kuvajaisen tiellä olevasta ihmisestä, autosta tai moottoripyörästä.
Siinä missä ihminen huomaa, että kyseessä on selkeästi pelkkä optinen illuusio, auto ei tätä erottelua osaa tehdä. Se tekee heti parhaansa säästääkseen ihmishenkiä, kuten sen pitääkin.
Tutkijat saivat Teslan vaihtamaan kaistaa heijastamalla asfaltille edessä olevasta mutkasta kertovia merkkejä.
He saivat robottiautot reagoimaan myös muihin kuvajaisiin, kuten puuhun heijastettuun liikennemerkkiin.
Tätä strategiaa voidaan käyttää myös hakkeroimalla tien varressa olevia mainoksia, ja näyttämällä niiden ruudulla esimerkiksi nopeusrajoituksia.
Tutkijat huolestuivat
Tutkijoiden pitävät illuusiohyökkäyksiä huolestuttavana. Niitä voidaan tehdä etäältä, mikä on itsessään jo pelottavaa, mutta autojen hämäämiseen riittää vain silmänräpäys: tekoälykuskin jujuttamiseen riittää vain sekunnin murto-osan ajaksi heijastettu kuvajainen. Tempun saa siis suoritettua niin nopeasti, että ihminen ei sitä havaitse, saati sitten ehdi asiaan reagoida, ellei satu katsomaan juuri siihen kohtaan mihin heijastus hetkeksi ilmestyy.
Tutkijat ovat ilmoittaneet löydöksistään autojen valmistajille, jotta nämä voivat kehittää järjestelmiään erottamaan aidot asiat ja harhakuvat. Tekoälyn kouluttaminen tällä tavalla ei ole millään tavalla mahdotonta, sillä tutkijat itsekin onnistuivat kehittämään algoritmin, joka osaa erottaa haamut tarkastelemalla kuvan kontekstia, pintaa sekä kuvajaisen liikkeitä.
Tutkimus on hyvä muistutus siitä, että autopilotin varaan ei pidä laskea, vaan kädet on pidettävä ratissa yllättävien tilanteiden varalta.
Uusimmat
-
05:28
Kuuntele! Tunnistatko sinä nämä Suomen murteet ääninäytteistä?
-
05:28
Räppäri Mikael Gabrielia syytetään taas huumausaineen käyttörikoksesta ja rattijuopumuksesta – "Kannan vastuuni"
-
05:19
Loppulausuntojen aikana: Syyttäjiä ja puolustusta kuullaan vielä viimeisen kerran Koskelan murhan oikeudenkäynnissä
-
05:11
Paikallisen sopimisen työryhmän työ karahti kiville – ministereiltä odotetaan linjauksia jatkosta tänään
-
04:58
Poliisi etsi Turussa kadonnutta 11-vuotiasta poikaa – palasi itse
-
04:49
Hallituksella jälleen koronaneuvottelut – MTV Uutisten tiedot: Linjaukset liikkumisrajoituksista epätodennäköisiä
-
23:52
Sarkozy sanoi harkitsevansa vetoomusta Euroopan ihmisoikeustuomioistuimeen korruptiotuomiosa vuoksi
-
23:52
Pormestariksi pyrkivä Vartiainen ei tunnista kokoomuksen ristiriitoja: "Kaikki saavat olla niin konservatiiveja tai liberaaleja kuin haluavat"
-
22:49
Leijonat-sentteriltä jäätävä liigapaluu: 1+3 – katso kierroksen kaikki maalit
-
22:28
Arviot jo kaksi viikkoa sairaalassa viettäneen prinssi Philipin tilasta synkkenevät – "Henkilökunta ja kuninkaallinen perhe rukoilevat yhdessä"
-
22:23
HPK palasi vakuuttavalle tielle – Ilves-luotsi Jouko Myrrältä ytimekäs murjaisu
-
22:13
Miten kirjekuoren sisällön voi lukea avaamatta sitä? Uusi tekniikka mahdollisti yli 300 vuotta vanhan sinetöidyn kirjeen lukemisen
-
22:04
Kärpät teki hurjan nousun sijaisjohdon alla – Mikko Mannerin paluu päättyi pettymykseen
-
21:54
Sarjakärki Lukkoa riivaa mystinen haaste – "Pelaamaan alettiin, kun oli pakko"
-
21:37
Jelena Välben verenpaine tapissa venäläishiihtäjän käytöksen takia: "Olemme ottaneet puhelimet ennenkin pois!"
-
21:25
Ainakin 15 kuoli tuhoisassa kolarissa Kaliforniassa, 8-paikkaiseen katumaasturiin ahtautui liki 30 ihmistä: Katso video turmapaikalta
-
21:21
Marin Ylelle: Tartuntatautilakia syytä täsmentää, taustalla Avin ja STM:n erimielisyys – Kiuru varoittaa, että koronan tahti on Suomessa nyt ennenkokematon
-
21:17
Kiinaa pyydetään lopettamaan koronan peräaukkotestit, joilla etsitään "hiljaisia kantajia" – amerikkalaisdiplomaatit testattiin peräaukosta vahingossa, Kiina puolustautuu
-
21:16
Suomeen saapui viime viikolla laivalla yli 6000 ammattikuljettajaa, joilta ei vaadittu koronatestiä – matkustajat hämillään, miten ja ketkä Suomeen pääsevät
-
21:13
Mentalisti Noora Karma avautuu Pippa Laukalle: "Älä sano tätä muille..."
-
Lataa lisää