Meneekö Apple liian pitkälle kansalaisten valvonnassa alastonkuvat syynäävällä järjestelmällään? Asiantuntija Ylelle: Saunakuvat voivat olla tekoälylle liikaa

Asiasta uutisoivat aikaisemmin muun muassa The New York Times ja Yle.

Applen torstaina julkaiseman tiedotteen mukaan järjestelmä otetaan käyttöön uuden iOS15-käyttöjärjestelmän myötä.

Lue myös: Nettikysely paljasti: Hälyttävän moni lapsipornon käyttäjä nähnyt hyväksikäyttömateriaalia ensikerran alle 13-vuotiaana – moni ei pysty lopettamaan materiaalin kulutusta

Apple on muuttanut Yhdysvalloissa lasten hyväksikäyttöä tutkivalta virastolta NCMEC:ltä saatuja kuvia, jotka yhtiö on muuttanut numerosarjoiksi.

Uuden järjestelmän avulla Applen laitteisiin voi laittaa päälle ominaisuuden, joka ilmoittaa, kun puhelimen käyttäjä lähettää tai vastaanottaa alastonkuvia. Ominaisuus on tarkoitettu etenkin lasten käyttämiin puhelimiin, joista lähtisi edellä mainitussa tapauksessa ilmoitus vanhemman puhelimeen.

Yhtiö kuitenkin vakuuttaa, että se itse ei koskaan näe lapsen tekstiviesteissä olevia alastonkuvia.

The New York Timesin mukaan järjestelmä skannaa vain valokuvat, ei videoita.

Tietoturva-asiat huolestuivat uudistuksesta

Applen omat asiantuntijat kehuvat järjestelmän tietoturvallisuutta, mutta moni asiantuntija pitää järjestelmää myös hyvin kyseenalaisena.

Ylen mukaan asiantuntijat uskovat järjestelmää käytettävän väärin, vaikka sen tarkoitus on hyvä.

Esimerkiksi autoritaariset hallitukset voisivat vastaavan järjestelmän avulla ryhtyä kartoittamaan hallinnon vastustajia, jos he levittävät vaikkapa kuvia hallituksenvastaisista mielenosoituksista.

Ylen haastattelema tietokirjailija ja tietoturva-asiantuntija Petteri Järvinen näkee järjestelmän uhkien piilevän juuri sen valjastamisessa muihin käyttötarkoituksiin.

– Se ovi, joka tätä kautta avautuu, on aika huolestuttava. Kun tällainen teknologia on kerran puhelimiin saatu ja sen käyttö on hyväksytty, niin on vain ajan kysymys, milloin sen käyttöä aletaan laajentaa.

Myös tietotekniikka-asiantuntija, Yhdysvaltain kansallisen turvallisuuspalvelun (NSA) asiakirjojen vuotamisesta tunnettu pilliin puhaltaja Edward Snowden on huolissaan uudesta järjestelmästä.

Hän uskoo, että uusi järjestelmä on Applen keino levittää massavalvontaansa ulottumaan ympäri maailmaa.

– Voitte olla aivan varmoja: Jos he voivat skannata lapsipornoa tänään, he voivat skannata mitä tahansa huomenna.

Jos et näe twiittiä, voit katsoa sen täältä.

Sensuroidaanko suomalaisten saunakuvat?

Tuleva järjestelmä on siinä mielessä poikkeuksellinen, että se rakennetaan osaksi puhelinta, Järvinen kertoo Ylelle.

Ylen mukaan esimerkiksi Microsoft ja Google skannaavat kuvia, joita ihmiset ovat ladanneet niiden palveluihin ja lähettäneet siellä.

Myös Facebook ja Twitter tarkistavat kuvat niiden julkaisemisen jälkeen.

Applen järjestelmä on määrä ottaa käyttöön aluksi vain Yhdysvalloissa.

Järvinen kuitenkin sanoo Ylelle pitävänsä todennäköisenä, että järjestelmä asennetaan päivitysten myötä kaikkiin iOS-puhelimiin.

Järvinen uskoo, että uudistuksen myötä viattomat suomalaiset voivat joutua turhaan järjestelmän seurannan kohteiksi.

Näin voi käydä, jos esimerkiksi rantakuvat tulkitaan haitalliseksi sisällöksi.

– Suomessa lähetetään uimarannalta tai saunan jälkeen otettuja kuvia aika vapaasti, mutta tekoälyn mielestä ne voivat ylittää sallittavuuden rajat, hän sanoo Ylelle.