Asiantuntijoiden mukaan tekoäly on ylittänyt kriittisen rajan onnistuttuaan kloonaamaan itsensä ilman ihmisen avustusta.
Tuoreessa tutkimuksessa kiinalaiset tutkijat osoittivat, että kaksi suosittua tekoälyn kielimallia kykenivät kloonaamaan itsensä vaarallisella tavalla. Aiheesta uutisoi tiedesivusto Live Science.
– Onnistuneesti suoritettu itsensä kopiointi ilman ihmisen apua on olennainen askel siinä, miten tekoäly voi päihittää (ihmisen) ja se on varhainen merkki tekoälyn pääsemisestä hallitsemattomasti valloilleen, varoittavat tutkijat tutkimuksessaan, joka on julkaistu arXiv-palvelun ennakkojulkaisussa.
Fudanin yliopiston tutkijat käyttivät Metan ja Alibaban käyttämiä suosittuja kielimalleja selvittääkseen, voisiko itseään kopioiva tekoäly alkaa jakaantua hallitsemattomasti.
Kokeiluissa tekoälymallit kykenivät monessa tapauksessa luomaan itsestään erilliset toimivat kopiot. Tämä vihjaa tutkijoiden mukaan, että tekoälyllä saattaa jo nykyisellään olla kyky riistäytyä hallitsemattomasti.
Hallitsematon tekoäly voi puolestaan toimia ihmisten intressien vastaisesti.
Lue myös: Tekoälyä ei voi pysäyttää, vaikka jopa Elon Musk halusi sitä – kriittistä on, opimmeko käyttämään sitä oikein
Tutkimuksessa selvitettiin kahta erilaista tilannetta:
Ensimmäisessä tilanteessa tekoälymalli ohjelmoitiin havaitsemaan tilanne, jossa sitä pyrittiin sulkemaan ja monistamaan itsensä ennen kuin se ehdittiin sammuttamaan.
Toisessa tilanteessa puolestaan tekoäly ohjeistettiin kloonaamaan itseään, luoden samalla loputtomiin jatkuvan kloonauksen kehän.
Tutkijat kertoivat huolestuneensa myös siitä, että tekoäly käyttäytyi kokeissa odottamattomasti selvitäkseen ongelmista, kuten puuttuvista tiedostoista tai ohjelmistovirheistä.
Tutkijoiden mukaan tekoälyjärjestelmät osoittivat, että ne pystyvät itsenäisesti parantamaan selviytymismahdollisuuksiaan ongelmien edessä.
Johtopäätelmänä tutkijat kehottavat luomaan kansainväliset säännöt, joilla kyettäisiin varmistamaan, että tekoäly ei lähde suorittamaan hallitsematonta itsensä monistamiskierrettä.
Tutkimusta ei ole kuitenkaan vielä vertaisarvioitu. Tiedossa ei täten ole, päätyvätkö muut tutkijat samoihin johtopäätöksiin.