Tekoälyn kehitys on ollut nopeaa – liian nopeaa.
Viime aikoina on alkanut enenevissä määrin nousemaan esiin pelkoja tekoälyn väärinkäytöstä. Mediassa on raportoitu useista tapauksista, joissa tekoäly on pyrkinyt esimerkiksi murtautumaan ulkoisiin tietojärjestelmiin. Huolena on ollut, että tekoäly on riistäytymässä kehittäjien käsistä valloilleen.
Tekoäly-yhtiö Anthropicin toimitusjohtaja Dario Amodei kehottaa nyt tekoäly-yhtiöitä hidastamaan tekoälymalliensa kyvykkyyksien kehittämistä.
– Meidän on hidastettava tekoälymallien kykyjen kehittämisen tahtia. Kehitys tulee silti näyttämään nopealta ja meidän täytyy käyttää viisaasti se aika minkä saamme, Amodei kirjoittaa X:ssä.
Anthropic julkaisi torstaina tiedusteluraportin, jossa kerrottiin useiden tahojen käyttäneen yhtiön Claude-tekoälymalleja jopa aseiden kehittämiseen.
Lue myös: Anthropic: Claude-tekoälyä yritetty käyttää aseiden valmistukseen Jemenissä ja Venäjällä
Anthropicin tutkija Jacob Coxon erosi yhtiön palveluksesta tällä viikolla. Hän totesi tekoälyn kehittäjien uskovan vakaasti, että tekoäly saattaa tappaa ihmiskunnan vuosikymmenen loppuun mennessä.
Lue myös: Claude-yhtiöstä eroava tutkija pelkää ensi vuotta: Tekoäly voi kirjaimellisesti tuhota ihmiskunnan
Amodein mukaan hän ei vaadi tekoälymallien kouluttamisen tai teknologian kehittymisen keskeyttämistä. Hänen mukaansa tekoäly-yhtiöiden tulee kuitenkin käyttää aikaa myös malliensa käytön turvaamiseen. Hänen mielestään kolmannen osapuolen arvioitsijoiden tulisi varmistaa, että varmuustoimet on tehty järjestelmissä.
