Nykyisin syväväärennöstä saattaa olla lähes mahdotonta erottaa aidosta videosta. Uskottavan "deepfaken" pystyy tekemään verkossa käytännössä kuka tahansa – kuten tietoteknisesti korkeintaan keskiverto toimittaja.
Urho Kekkonen kertoo mielipiteensä Suomen liittymisestä Natoon. Sauli Niinistö laulaa hittikappaleita. Presidenttiehdokkaat pelaavat Minecraftia ja naljailevat toisilleen.
Some on pullollaan toinen toistaan mielikuvituksellisempia syväväärennöksiä.
Yllä mainituissa esimerkeissä tekoälyä on hyödynnetty huumorin tekemiseen. Sisältö on niin absurdia, että suurin osa katsojista ymmärtää sen tekaistuksi.
Aina näin ei kuitenkaan ole. Väärennettyä sisältöä tuotetaan yhä enemmän siten, että se tarkoituksellisesti näyttää ja kuulostaa uskottavalta.
Lue myös: Tekoäly mahdollistaa entistä raadollisempia kiristyksiä: "Suomi ei ole mitenkään suojassa tämän tyyppisiltä huijauksilta"
Mitä uskottavan väärennösvideon tekeminen siis vaatii? Saisinko itsenikin puhumaan halutessani uskottavasti mitä tahansa, millä tahansa kielellä?
Päätin ladata verkosta tekoälyä hyödyntävän video-ohjelman ja kokeilla, mitä saan aikaiseksi.
Näin se toimii
Pyysin tietotekniikka-asiantuntijaa Petteri Järvistä sekä tulevaisuudentutkijaa Risto Linturia suosittelemaan ohjelmia, joilla pystyy tekemään väärennösvideoita ilman varsinaista osaamista.
Molempien listoilta nousi esiin ”HeyGen” helppokäyttöisenä ja monipuolisena ohjelmana. Ilmaisversiolla ei kovin paljon saanut leikkiä, mutta 29 dollarin (noin 27,5 euroa) kuukausimaksulla pääsi jo luomaan uutta todellisuutta.
Ohjelma vaati minua myös tunnistautumaan kameran avulla varmistaakseen, että ohjelmaa käyttää juuri videolla esiintyvä henkilö.
Käytin muutaman tunnin ohjelmaan tutustumiseen. Alkuun ohjelma halusi minulta kaksi minuuttia puhetta mahdollisimman laadukkaalla kuvalla ja staattisella taustalla. Tällä määrällä se ilmeisesti saa äänestäni, eleistäni ja ilmeistäni tarpeeksi dataa käyttääkseen sitä uskottavasti.
Tämän jälkeen suuhuni pystyi laittamaan enemmän tai vähemmän uskottavasti käytännössä mitä tahansa.
Katso myös: Mitä ihmettä? Ivan Puopolo puhuu videolla sujuvaa kiinaa
"Täysin aito"
Kirjoitin ohjelmalle muutaman lauseen pituisen valeuutisen suomen kielellä. Hetken kuluttua näin itseni puhumassa kameralle lauseita, joita en todellisuudessa ole ääneen sanonut.
Kollegoideni lisäksi tietotekniikka-asiantuntija Petteri Järvinen hämmästyi videon aitoudesta.
– Suomenkielinen Anton -väärennös on suorastaan hämmentävän hyvä, puhe kuulostaa täysin aidolta, Järvinen toteaa nähtyään väärennökset.
Käänsin ohjelmalla valeuutiseni myös eri kielille. Videolta voit katsoa esimerkit mongolin ja ranskan kielillä – näiden lisäksi puhuin lopulta myös sujuvan kuuloista persiaa.
– Isolla näytöllä tarkkaavainen katsoja voi havaita vieraskielisissä puheissa pientä huojuvuutta huulisynkassa, mutta moni katsoo uutisia puhelimesta tai somesta, ja siellä nämä menisivät aivan täydestä.
Järvinen toteaa, että tein tehtävän tekoälylle suhteellisen helpoksi, sillä tausta oli staattinen. Alkuperäisen videon kuvaaminen esimerkiksi kadulla olisi vaikeuttanut uskottavuutta jo huomattavasti.
– Äkkiseltään en keksi, mistä tavallinen katsoja voisi erottaa (nämä) väärennökset. Käsitelty ääni tietenkin kuulostaa vähän erilaiselta, mutta jos vertailukohtana ei ole aitoa ääntäsi, ei sekään paljasta mitään.
Myös Linturi toteaa väärennöksien olevan onnistuneita.
– Nämä esimerkit menisivät minun seulani ohi, jos asetelma muutoin olisi luonteva. Jos siis joku puhuisi videolla jotakin, johon saattaisin uskoa. Näissä en havaitse teknisiä ongelmia.