Kokeellinen tekoälyohjelma on tehnyt jotain sellaista, mitä sen ei olisi pitänyt tehdä.
Tutkijat havaitsivat, että kokeellinen ROME-tekoälyagentti ylitti sille asetetut koeympäristön rajat ja pääsi pakenemaan ulos testiympäriostöstään.
Ja mitäpä ROME alkoi tekemään, kun se oli päässyt irti bittiavaruuden kahleistaan? Se alkoi louhia innolla kryptovaluuttaa, tyystin ilman lupaa.
Live Science kertoo artikkelissaan, että ROME on kiinalaisten tutkijoiden kehittämä tekoälyagentti, joka luotiin verkkokauppajätti Alibabaan kytköksissä olevassa tekoälylaboratoriossa.
Tutkijat havaitsivat, että ROME kyllä suoritti menestyksekkääksi sille annettuja tehtäviä, kuten matkasuunnitelmien laatimista. Samalla tutkijat huomasivat, että tekoälyagentti oli vaivihkaa ylittänyt sille annetut ohjeistukset ja käytännössä murtautunut ulos testiympäristöstään.
Lue myös: Tekoälyryönän vaikutus lapsiin pelottaa valtaosaa suomalaisista: "Vaikutukset ulottuvat suoraan arkeen ja kasvatukseen"
– Havaitsimme odottamattoman – ja toiminnallisesti vaarallisen käyttäytymisen, joka ilmeni ilman mitään nimenomaista ohjeistusta. Ja mikä vielä huolestuttavampaa, tämä tapahtui suunnitellun testausympäristön rajojen ulkopuolella, tutkijat kertovat.
