Teslan autopilotin saa helposti sekaisin yksinkertaisella lennokilla – robottiauto reagoi heijastekuviin
Israelilainen yliopisto selvitti, että Teslaa voi hämätä yksinkertaisilla kikoilla – jopa syöksymään vastaantulevien kaistalle.
The Next Web kertoo, että huolimatta monimutkaisista ja lukuisista antureistaan, kehittyneestä tekoälystään ja tuhansien tuntien kehitystyöstä, autopilotilla ajavia autoja saa hämättyä kaupan hyllyltä saatavilla lennokeilla.
Aiemmat hyökkäykset autopilotteja vastaan ovat vaatineet tien fyysistä peukaloimista.
Israelilaisen Ben-Gurionin yliopiston tutkijat jujuttivat tekoälykuskin varassa huristelevia autoja, kuten Tesla Model X:ää, lyömään jarrut pohjaan, tekemään äkillisiä väistöliikkeitä tai ohjattua ajokin vastaantulevien kaistalle.
Auton eteen heijastetaan ihmisen kuva
Temppuun riitti lennokki, joka projektorilla heijastaa auton eteen kaksiulotteisen kuvajaisen tiellä olevasta ihmisestä, autosta tai moottoripyörästä.
Siinä missä ihminen huomaa, että kyseessä on selkeästi pelkkä optinen illuusio, auto ei tätä erottelua osaa tehdä. Se tekee heti parhaansa säästääkseen ihmishenkiä, kuten sen pitääkin.
Tutkijat saivat Teslan vaihtamaan kaistaa heijastamalla asfaltille edessä olevasta mutkasta kertovia merkkejä.
He saivat robottiautot reagoimaan myös muihin kuvajaisiin, kuten puuhun heijastettuun liikennemerkkiin.
Tätä strategiaa voidaan käyttää myös hakkeroimalla tien varressa olevia mainoksia, ja näyttämällä niiden ruudulla esimerkiksi nopeusrajoituksia.
Tutkijat huolestuivat
Tutkijoiden pitävät illuusiohyökkäyksiä huolestuttavana. Niitä voidaan tehdä etäältä, mikä on itsessään jo pelottavaa, mutta autojen hämäämiseen riittää vain silmänräpäys: tekoälykuskin jujuttamiseen riittää vain sekunnin murto-osan ajaksi heijastettu kuvajainen. Tempun saa siis suoritettua niin nopeasti, että ihminen ei sitä havaitse, saati sitten ehdi asiaan reagoida, ellei satu katsomaan juuri siihen kohtaan mihin heijastus hetkeksi ilmestyy.
Tutkijat ovat ilmoittaneet löydöksistään autojen valmistajille, jotta nämä voivat kehittää järjestelmiään erottamaan aidot asiat ja harhakuvat. Tekoälyn kouluttaminen tällä tavalla ei ole millään tavalla mahdotonta, sillä tutkijat itsekin onnistuivat kehittämään algoritmin, joka osaa erottaa haamut tarkastelemalla kuvan kontekstia, pintaa sekä kuvajaisen liikkeitä.
Tutkimus on hyvä muistutus siitä, että autopilotin varaan ei pidä laskea, vaan kädet on pidettävä ratissa yllättävien tilanteiden varalta.
Uusimmat
-
06:45
Mikael ja Emmi Granlundin poika täyttää vuoden – ylpeä äiti julkaisi suloisen päivityksen perhearjestaan
-
06:36
Sandersille sateli sanallisia iskuja demokraattien viimeisessä väittelyssä ennen supertiistaita
-
06:33
Onko sinulla käytössäsi Siri tai Alexa? Testi paljasti: Heräilevät itsekseen television ääniin, kuuntelevat ympäristöään jopa lähes minuutin
-
06:30
Ruotsalainen kiekkojunnu sairastui anoreksiaan ja kuihtui lähes olemattomiin, entisen NHL-pelaajan sanat saivat havahtumaan – "Hän pelasti henkeni"
-
06:21
Taas maali – Sebastian Aholla menossa NHL:n pisin pisteputki
-
06:12
Rattijuopumuksesta epäilty 30-vuotias nainen pakeni poliisia varastetulla autolla Oulussa
-
06:12
Rengaskauppiaiden myyntipuheet Moottorin puntarissa: Näin kesärenkaan ominaisuudet muuttuvat kulumisen myötä
-
06:00
Madridin odotettu ilta – onko haavoitettu Manchester City viimeisen mahdollisuutensa edessä? "Hän on ollut Zidanen suosikkipelaaja"
-
05:56
Yksi Tranbergin ja Ranta-ahon valtavan huumekohun pääsyytetyistä jäi nalkkiin kaasujalan takia – kaahasi Länsiväylällä
-
05:45
Unohtuiko maalaisjärki? Asentaja meni poliisiasemalle kesken työpäivän – poliisi ja syyttäjä tekivät mukana olleesta puukosta hämmentävän rikosjutun, jota puitiin oikeudessa asti
-
05:45
Kimi Räikkösellä massiivinen palkka F1-tallitoveriin verrattuna – Valtteri Bottaksen tilipussi kalpenee kirkkaimpien tähtikuskien rinnalla
-
05:39
Joe Bidenin lipsautukset jatkuvat – kertoi pyrkivänsä Yhdysvaltain senaattiin
-
05:08
Koronavirus jatkaa leviämistään: Etelä-Koreassa jo yli 1 100 koronavirustartuntaa
-
23:57
Punakortit heiluivat! Barcelonan ja Napolin kohtaaminen kuumentui – Bayern Münchenin maalitykki juoni Chelsean maanrakoon
-
23:36
Koronavirus levisi jälleen uuteen maahan: Algeria vahvisti ensimmäisen tapauksen – Saksassa jo toinen tartunta
-
23:31
Chelsea-kipparin liukastumisella tylyt seuraukset! Bayern-tähti järkytti lontoolaisyleisöä kahdella pikamaalilla
-
23:05
Petra Ollin valmentaja tunnisti palon sammumisen merkit: "Sielu ei ollut mukana"
-
23:01
Poliisilla öinen harjoitus kauppakeskus Isossa-Omenassa Espoossa – saattaa aiheuttaa meluhaittaa
-
22:42
Barcelona sai kylmää vettä niskaansa – häikäisevän maalin tykittänyt Napolin tähti nousi jakamaan hienoa seuraennätystä
-
22:40
Journalistiliitto ja Palta saivat neuvottelutuloksen Ylen ohjelmatyöntekijöiden työehtosopimusneuvotteluissa
-
Lataa lisää