Teslan autopilotin saa helposti sekaisin yksinkertaisella lennokilla – robottiauto reagoi heijastekuviin
Israelilainen yliopisto selvitti, että Teslaa voi hämätä yksinkertaisilla kikoilla – jopa syöksymään vastaantulevien kaistalle.
The Next Web kertoo, että huolimatta monimutkaisista ja lukuisista antureistaan, kehittyneestä tekoälystään ja tuhansien tuntien kehitystyöstä, autopilotilla ajavia autoja saa hämättyä kaupan hyllyltä saatavilla lennokeilla.
Aiemmat hyökkäykset autopilotteja vastaan ovat vaatineet tien fyysistä peukaloimista.
Israelilaisen Ben-Gurionin yliopiston tutkijat jujuttivat tekoälykuskin varassa huristelevia autoja, kuten Tesla Model X:ää, lyömään jarrut pohjaan, tekemään äkillisiä väistöliikkeitä tai ohjattua ajokin vastaantulevien kaistalle.
Auton eteen heijastetaan ihmisen kuva
Temppuun riitti lennokki, joka projektorilla heijastaa auton eteen kaksiulotteisen kuvajaisen tiellä olevasta ihmisestä, autosta tai moottoripyörästä.
Siinä missä ihminen huomaa, että kyseessä on selkeästi pelkkä optinen illuusio, auto ei tätä erottelua osaa tehdä. Se tekee heti parhaansa säästääkseen ihmishenkiä, kuten sen pitääkin.
Tutkijat saivat Teslan vaihtamaan kaistaa heijastamalla asfaltille edessä olevasta mutkasta kertovia merkkejä.
He saivat robottiautot reagoimaan myös muihin kuvajaisiin, kuten puuhun heijastettuun liikennemerkkiin.
Tätä strategiaa voidaan käyttää myös hakkeroimalla tien varressa olevia mainoksia, ja näyttämällä niiden ruudulla esimerkiksi nopeusrajoituksia.
Tutkijat huolestuivat
Tutkijoiden pitävät illuusiohyökkäyksiä huolestuttavana. Niitä voidaan tehdä etäältä, mikä on itsessään jo pelottavaa, mutta autojen hämäämiseen riittää vain silmänräpäys: tekoälykuskin jujuttamiseen riittää vain sekunnin murto-osan ajaksi heijastettu kuvajainen. Tempun saa siis suoritettua niin nopeasti, että ihminen ei sitä havaitse, saati sitten ehdi asiaan reagoida, ellei satu katsomaan juuri siihen kohtaan mihin heijastus hetkeksi ilmestyy.
Tutkijat ovat ilmoittaneet löydöksistään autojen valmistajille, jotta nämä voivat kehittää järjestelmiään erottamaan aidot asiat ja harhakuvat. Tekoälyn kouluttaminen tällä tavalla ei ole millään tavalla mahdotonta, sillä tutkijat itsekin onnistuivat kehittämään algoritmin, joka osaa erottaa haamut tarkastelemalla kuvan kontekstia, pintaa sekä kuvajaisen liikkeitä.
Tutkimus on hyvä muistutus siitä, että autopilotin varaan ei pidä laskea, vaan kädet on pidettävä ratissa yllättävien tilanteiden varalta.
Uusimmat
-
22:38
Biden yrittää kerätä ennätyspottia vaalikassaansa – liput gaalailtaan jopa 500 000 dollaria
-
22:25
TPS-käskijä kuittaili Rikard Grönborgille ja Antti Pennaselle – Tappara-taiturilta maukas paljastus: "Hienosti se kuunteli"
-
22:10
Tältä näyttää Anu Saagimin ja Ristomatti Ratian juuri 25 vuotta täyttänyt Robin-poika
-
21:48
Olli Jokinen ja katsoja sanaharkassa Oulussa – paljastaa nyt, mitä tilanteessa huudeltiin
-
21:41
HIFK-kultakypärä Jori Lehterä sai päätärskyn, otteluvalvoja ilmoitti napakan kannan – "Vähän helähti"
-
21:38
HIFK-sankari Niko Hovinen kiisti selostajan väitteen – kommentoi jättivoittoa: "Itse ollaan kuoppamme kaivettu"
-
21:29
THL:n Hanna Nohynek tuli raskaaksi 18-vuotiaana – vanhempien päättämä abortti muutti elämänsuunnan
-
21:26
Karhu juoksi kaupunkiin ja raateli ihmisiä Slovakiassa – nyt siitä on tulossa poliittinen pelinappula
-
21:18
Pyhiinvaeltajien bussi suistui rotkoon Etelä-Afrikassa – ainakin 45 kuollut
-
21:09
EU-vaalit kiinnostavat: Poikkeuksellisen paljon kansanedustajia ja kovia nimiä ehdolla
-
21:07
Kuningatar Camilla otti vastaan hellyttävän huomionosoituksen prinsessa Catherinelle: "Hän todella ilahtuu"
-
21:02
HIFK:lta tyly vierasryöstö Lahdessa, Jukurit torppasi Kärpät – Tapparalle ottelupallo TPS:ää vastaan
-
20:51
HIFK-tähti Jori Lehterä sai rajun päätärskyn Lahdessa – tämä tilanne meni tuomareilta kokonaan ohi
-
20:51
Paavi pesi ja suuteli naisvankien jalkoja
-
20:36
SM-liigan puolivälierä keskeytyi todella erikoisesta syystä
-
20:35
HIFK:n kausi jatkumassa – Joonas Rask napautti näyttävän pussukan
-
20:30
9-vuotias yritti huristella autolla kouluun Yhdysvalloissa – matka päättyi lyhyeen
-
20:26
TPS-hyökkääjältä täydellinen aivopieru – Tapparalle avautui satumainen tilaisuus
-
20:10
Mitä tapahtuu autolle, jos polttoaine pääsee loppumaan? – "Mahdollisuus on olemassa"
-
20:03
Kärppiä retuutetaan rajusti Oulussa
-
Lataa lisää