Deepfake-videoiden tekemiseen vaadittava tekniikka on tänä päivänä kenen tahansa ulottuvilla. Asiantuntijat uskovat, että uskottavia väärennöksiä pystyy pian luomaan käytännössä tyhjästä. Esimerkiksi videopalavereissa on jo syytä olla tarkkana.
MTV Uutiset kertoi tänään tekemästään deepfake-kokeilusta. Pienen harjoittelun jälkeen toimittaja osasi tehdä kuvaamastaan videosta väärennöksen, jota on hyvin vaikeaa erottaa aidosta videosta. Voit katsoa videon artikkelin alusta.
Lisäksi samaisen HeyGen-ohjelman avulla toimittaja osasi puhua sujuvasti muun muassa arabiaa, persiaa, mongolia ja ranskaa.
Asiantuntijoiden mukaan toimittajan tekemät väärennökset ovat osoitus tekoälyn päätähuimaavasta kehityksestä.
Tietotekniikka-asiantuntija Petteri Järvinen sanoo, että tekoälyn ansiosta kuka tahansa pystyy kotilaitteistolla tekemään melkein millaisia videoita tahansa.
Toistaiseksi uskottavien deepfake-videoiden tekemiseksi tarvitaan kuitenkin vielä riittävästi hyvälaatuista lähdemateriaalia.
– Mutta jo muutaman vuoden kuluttua uskottavia videoita voidaan tuottaa ihan tyhjästä, pelkällä tekstikomennolla. Staattinen valokuva henkilöstä tai muutama lause riittävät identiteetin varastamiseen.
Tulevaisuudentutkija Risto Linturi toteaa, että MTV Uutisten deepfake-testissä käytettiin yhtä markkinoiden parhaista sovelluksista sekä helpointa väärennystekniikkaa. Vaativammalla tekniikalla ihminen saataisiin jo liikkumaan tai tekemään asioita, joita hän ei oikeasti tekisi.
– Sellaisissa tekoäly tekee helposti enemmän virheitä. Mutta huolellisella työllä ja tarkalla heikosti onnistuneiden versioiden karsinnalla voidaan saada aikaa harrastetasollakin videoita, joita tavallinen ihminen ei epäile väärennöksiksi.
"Onko todellisuudella lainkaan tulevaisuutta?"
Järvinen ja Linturi ilmaisevat huolensa tekoälyn kehittymisen hyödyntämisestä vääriin käyttötarkoituksiin. Rikolliset eivät tarvitse uskottaviin syväväärennöksiin enää juurikaan lähdemateriaalia.
– Tämä avaa huolestuttavia näkymiä esimerkiksi kiusantekoon ja lavastamiseen, kostopornoon sekä huijauksiin: "Hei äiti, puhelimeni meni rikki, lähetä rahaa uuteen…" tai toimitusjohtajalta tuleva kuvapuhelu, jossa pyydetään talousosastoa maksamaan iso lasku pikaisesti. Hahmoa voidaan animoida ja ohjata reaaliajassa, mikä mahdollistaa kuvapuheluiden väärentämisen.
Myös Linturi nostaa esille uuden ilmiön kehityksessä – reaaliaikaisuuden.
– Puhe ja kasvot voidaan väärentää jopa reaaliajassa siten, että esimerkiksi videoneuvottelussa kasvot ja ääni on väärennetty toisen henkilön kasvoiksi ja ääneksi.
Uudenlainen videotuotanto mahdollistaa paljon, mutta samalla se hämärtää todellisuuden ja tekoälyn luoman maailman rajaa.
Järvinen huomauttaa, että peliin puuttuvat tämän myötä yhä enemmän myös salaliittoteoriat.
– Joudumme kysymään, onko todellisuudella lainkaan tulevaisuutta? Onko todellisuus jatkossa yhtä henkilökohtainen asia kuin musiikkimaku tai omat luonteenpiirteet?
Elokuvateollisuus murroksessa?
Linturi uskoo, että tekoäly tulee mullistamaan elokuvamaailman. Tällä hetkellä tekoäly kykenee esimerkiksi tekemään käsikirjoituksen ja juontamaan dokumenttielokuvan alusta loppuun.
Uusimmat välineet kykenevät myös tuottamaan lyhyitä elokuvia.
– Tuotoksissa on toistaiseksi ongelmia ja puutteita, mutta käyttäjä voi pyytää tekoälyn tekemään ongelmakohdat uudestaan ja esimerkiksi yhden päivän työ saattaa riittää tuottamaan parempaa sisältöä kuin huonoimmat televisiossa nyt esitetyt.
Parin vuoden sisällä kaupallisia elokuvia on jo saatettu tuottaa näillä tekniikoilla. Tämäkin on Linturin mukaan vasta alkua.
– Viiden vuoden kuluttua ollaan tilanteessa, jossa elokuvastudioita suljetaan, koska tekoäly tuottaa lavasteet, puvusteet, meikit, näyttelijähahmot, äänitteet… Samalla nämä muuttuvat yksilöllisiksi ja jokainen halutessaan voi katsoa elokuvasta itselleen räätälöidyn version.
– Muutama vuosi lisää ja me voimme mennä pelien tavoin elokuviin mukaan. Tavallaanhan seikkailupelit ovat jo nyt tällaisia, mutta pian tekoäly luo hahmot siten, että voimme käydä niiden kanssa luontevasti keskusteluita, joita ei ole valmiiksi ohjelmoitu ja tapahtumat kehittyvät ainutkertaisia ratojaan.
Median rooli kasvaa
Linturi ja Järvinen toivovat tekoälyn kehityksen tuovan mukanaan vastareaktion, jossa videon alkuperään aletaan kiinnittää enemmän huomiota.
Järvinen ehdottaa, että videot voitaisiin esimerkiksi sähköisillä varmenteilla merkitä väärennöksen kestäviksi jo kuvauspaikalla. Hänen mukaansa sellaista analytiikkaa tai tekoälyä, joka pystyisi luotettavasti tunnistamaan syväväärennökset, ei kuitenkaan kannata odottaa.
Linturi on Järvisen kanssa samoilla linjoilla.
– Luultavasti tulevaisuudessa tärkeät videot tullaan autentikoimaan siten, että ne sinetöidään jonkin tarkistussumman avulla siten, että sisältöä ei voida muuttaa muuttamatta tarkistussummaa.
– Jos tarkistussummat kirjataan esimerkiksi lohkoketjuun tai luotetun osapuolen tietokantaan, voidaan aitojen videoiden alkuperä osoittaa ja väärennökseltä sitten puuttuu tällainen alkuperätodistus.
Järvinen nostaa esille myös, että perinteisen median rooli on tulevaisuudessa entistä suurempi, kun kaikkea voidaan tekoälyn avulla väärentää.
– Katsojana emme pysty varmistamaan, mikä netissä näkyvä on aitoa ja mikä ei, mutta luotamme uutistoimituksen ammattilaisiin, että he valitsevat videot luotettavista lähteistä.
