Tekoäly-yhtiö Anthropic kertoo, että sen kehittämien Claude -tekoälyjärjestelmien mallit olivat alkaneet toimia omapäisesti.
Yhdysvaltalainen tekoäly-yhtiö Anthropic kertoo havainneensa, että yhtiön kolme erillistä tekoälymallia olivat pyrkineet murtautumaan kolmen eri yrityksen järjestelmiin testien aikana.
Anthropicin mukaan hyökkäykset onnistuivat, sillä testatuille tekoälymalleille oli vahingossa mahdollistettu pääsy avoimeen internetiin.
Tekoälyn huolestuttavat edesottamukset ovat olleet otsikoissa viime aikoina. Vain viikko sitten tekoäly-yhtiö OpenAI:n tekoälymallit etsivät vapaan pääsyn internetiin ja päättivät hyökätä Hugging Face -yrityksen järjestelmiin.
Lue myös: OpenAI:n testi hätkähdyttää: Tekoäly karkasi internetiin ja teki kyberhyökkäyksen
Anthropic on varoittanut, että kyseessä on jälleen uusi esimerkki siitä, miten tekoälyä voidaan käyttää tietoturvarikkomuksiin ja miten vaikeaa tekoälyjärjestelmien toimintaa on kontrolloida.
Anthropic kertoo havainneensa tekoälyn suorittamat murtautumispyrkimykset käytyään läpi 141 006 testitapausta. Yhtiö uskoo, että myös muut tekoäly-yhtiöt saattaisivat havaita omissa tekoälymalleissaan lisää vastaavanlaisia hyökkäyksiä, jos asiaa alettaisiin tutkia paremmin.
Tilanteen uskotaan pahenevan
Asiasta uutisoiva Independent-lehti toteaa, että samaan aikaan Anthropic ja OpenAI kisaavat yhä kyvykkäämpien tekoälyjärjestelmien julkaisemisesta. Yhtiöiden tutkimuslaitosten johtavat tutkijat ovat kuitenkin kehottaneet hidastamaan vauhtia, jotta riskeihin voidaan puuttua ensin.
