Maailmankuulu brittifyysikko Stephen Hawking varoittaa tekoälyn ripeän kehityksen muodostamasta uhasta.
Hawking toteaa Independent-lehden artikkelissaan, että toteutuessaan tekoälyn luominen tulisi olemaan ihmisen suurin saavutus. Samalla se Hawkingin mielestä saattaisi kuitenkin jäädä ihmiskunnan viimeiseksi saavutukseksi, mikäli siihen liittyviä riskejä ei opita ennakolta välttämään.
Hawking viittaa Irving Goodin vuonna 1965 esittämään ajatukseen, että älykkäät koneet voisivat jatkuvasti itse parantaa suorituskykyään yhä tehokkaammaksi.
Hawking toteaa, että tällaisesta teknologiasta voi tulla maailman johtajia ja taloutta ovelampaa. Näin se saattaa kyetä kehittämään sellaisia aseita, mitä ihmiset eivät edes kykene ymmärtämään.
- Lyhyellä tähtämellä puhutaan siitä, kuka hallitsee tekoälyä. Pitkällä tähtäimellä kyse onkin siitä, kyetäänkö tekoälyä lainkaan enää kontrolloimaan, toteaa Hawking huolestuttavaan sävyyn.
Brittifyysikon mielestä asiantuntijat eivät ole varautuneet tilanteeseen.
- Jos meitä kehittyneempi muukalaisten sivilisaatio lähettäisi meille viestin, että he saapuvat parin vuosikymmenen päästä, niin sanoisimmeko vain: "Ok, soittakaa kun pääsette perille, me jätämme valot päälle". Tuskinpa. Mutta juuri näin on tapahtumassa tekoälyn kanssa.