Sodankäynnin ja tekoälyn yhdistämisen voi mokata kunnolla vain kerran, kirjoittaa MTV Uutisten ulkomaantoimittaja Jouko Luhtala.
Drooni tappoi kolme ukrainalaista.
Surullista kyllä, se ei ole uutinen. Venäjä tappaa Ukrainassa siviileitä käytännössä päivittäin.
Heinäkuussa tehty isku oli kuitenkin pelottava näkymä tulevaisuuteen.
Kyseisessä hyökkäyksessä ihminen oli ohjelmoinut droonin lentämään kohti tiettyä huoltoasemaa.
Lähelle päästyään drooni itsenäistyi. Sen tekoäly valitsi koulutuksensa pohjalta itse kohteensa, todennäköisesti propaanitankit, ja räjähti törmätessään seinään.
Sirpaleet tappoivat ukrainalaiset.
Asiasta kertoo yhdysvaltalaislehti New York Times, joka haastatteli sotilasviranomaisia ja asiantuntijoita.
Tekoälyn rooli droonisodassa kasvaa vauhdilla samaan aikaan kuin suurimpien amerikkalaisten tekoäly-yhtiöiden johtajat varoittavat tekoälyn olevan todellinen uhka ei vain yksittäisille ihmisille, vaan koko ihmiskunnalle.
Tekoälyjättien pomot sanovat olevansa valmiita hidastamaan tekoälyn kehitystä, jotta turvallisuus voidaan taata.
Presidentti Donald Trump kannattaa kaasun pitämistä pohjassa. Hänen mukaansa tekoäly pysyy hallinnassa, kunhan vain on "VAHVA JA VIISAS (KORKEA ÄO!) PRESIDENTTI". Yhdysvaltalaisten tekoäly-yhtiöiden huolet ovat Trumpin mukaan vain huijaus, joka antaa kiinalaisille kilpailijoille etulyöntiaseman.
Näyttää todennäköiseltä, että kuljemme enemmän tai vähemmän vääjäämättä kohti koneiden sodankäyntiä.
Sodankäyntiä, jossa päätöksen ihmisen elämästä tekee kone.
Vielä nyt mielellään sanotaan, että sodassa ihmisen täytyy tehdä päätös toisen ihmisen tappamisesta.
Uskooko joku todella tämän argumentin selviävän, kun kerta toisensa jälkeen varmasti osoittautuu, että tekoäly tekee sotaa koskevat päätöksen nopeammin, tehokkaammin ja ennen kaikkea tappavammin kuin ihminen?
Markkinointimaisen perustelun sotivasta tekoälystä voi summata seuraavasti: "Tekoäly säästää ihmishenkiä". Vähemmän mainoshenkinen lisäys: "Meidän puolen ihmishenkiä".
Dystopiat ja tieteistarinat ovat täynnä ihmisten hallinnasta riistäytyviä tekoälyjä. Lopputulos on käytännössä järjestään lohduton.
Yksi tyypillinen skenaario on, että tekoäly saa vapaat kädet suojella elämää. Silloin ilmaa saastuttavasta ja luonnon monimuotoisuutta kaventavasta ihmisestä on kannattavaa hankkiutua eroon.
Ehkä tunnetuin keskustelu tekoälymaailmanlopusta käytiin elokuvassa Terminator 2 – Tuomion päivä (Terminator 2: Judgment Day, 1991).
Se kannattaa lukea kokonaisuudessaan, mutta tässä summaus: Kaikki häivepommittajat päivitetään ja niistä tulee täysin miehittämättömiä. Päivityksen myötä hävittäjät operoivat täydellisesti.
Skynet-tekoäly otetaan käyttöön: "Ihmisen rooli strategisesta puolustuksesta poistetaan. Skynet alkaa oppia geometrisellä nopeudella. Siitä tulee tietoinen itsestään elokuun 29. päivä kello 2.14. Paniikissa ihmiset yrittävät vetää piuhat irti".
Skynet ei hyväksy päätöstä. Tekoäly laukaisee Yhdysvaltain ydinohjukset Venäjälle, koska se tietää Venäjän vastaiskun olevan tuhoisa.
1990-luvun fiktio voi hyvin olla 2020-luvun tulevaisuutta.
Jo nyt Anthropicin ja OpenAI:n kaltaiset tekoäly-yhtiöt kehittävät kilpaa tekoälymalleja, jotka kehittävät itse itseään.
Tänä vuonna on uutisoitu useista tapauksista, joissa tekoälyt ovat tavalla tai toisella päässeet tavallaan irti kahleistaan ja tehneet esimerkiksi tietomurtoja.
Tekoälyt ovat myös pyrkineet piilottamaan ihmisiltä tehtäviä, joita ne ovat itselleen keksineet.
Ääneen sanottu pelko on, että joku päivä tekoälyt eivät yksinkertaisesti enää kuuntele ihmisten antamia käskyjä.
Tekoälyn ja tappavan voiman yhdistämisen suurin ongelma ei ole tappopäätöksen vieminen pois ihmiseltä.
Suurin ongelma on, että jos tekoäly riistäytyy väärässä ympäristössä ihmisten käsistä, ei virhettä välttämättä pystytä perumaan tai korjaamaan.
Sodankäynnin ja tekoälyn yhdistämisen voi mokata kunnolla vain kerran.
Lue myös:
Tekoälyjohtajat vakavan asian äärellä: Nyt on hidastettava!
Huoli maailmanlopusta on aiheellinen – tekoälyhakkeri-Mikko avasi karmeaa kierrettä MTV:lle
Anthropic: Claude-tekoälyä yritetty käyttää aseiden valmistukseen Jemenissä ja Venäjällä
Voiko tekoäly olla näyttelijä? Tekoälytähti Tilly haluaa tulla otetuksi vakavasti
Anthropic: Claude-tekoälyä yritetty käyttää aseiden valmistukseen Jemenissä ja Venäjällä