Yhtiön mukaan tekoälymalli toimi omapäisesti ja teki muitakin kuin ohjeistettuja asioita.
Tekoäly-yhtiö OpenAI peruu uusimman tekoälymallinsa julkaisun turvallisuussyistä. Yhdysvaltalaisyhtiö vahvisti asian paikallista aikaa maanantaina.
Kielimalli ChatGPT:n kehittäneen yhtiön sisäisissä testeissä kävi ilmi, ettei uusi malli Astra 6.1 täyttänyt turvallisuusvaatimuksia.
Yhtiön mukaan tekoälymalli toimi omapäisesti ja teki muitakin kuin ohjeistettuja asioita.
OpenAI on myöntänyt, että sen tekoälyt ovat käyneet asiattomasti sekä Yhdysvaltain että Australian hallitusten sivuilla.
Huoli tekoälyn turvallisuudesta on lisääntynyt kuluvan vuoden aikana.
Viime aikoina on tullut julki useita tapauksia, joissa OpenAI:n tekoälymallit ovat tunkeutuneet ulkopuolisiin järjestelmiin.
Myös Googlen ja Anthropicin tekoälymallien on kerrottu tehneen vastaavanlaisia kyberhyökkäyksiä.
OpenAI:n johtaja Sam Altmanin ja Claude-tekoälystä tunnetun Anthropicin toimitusjohtaja Dario Amodein mukaan tekoälyn kehitystä pitää hillitä.
Yhdysvaltain presidentti Donald Trumpin mukaan tekoälyn kehitystä ei tule jarruttaa. Hän on kutsunut turvallisuusuhkia "huijaukseksi".
Kiinan, joka on toinen merkittävä tekoälymahti, presidentti Xi Jinpingin mukaan tekoälyn kehityksen pitää pysyä ihmisten hallinnassa.
Trump on sanonut, että tekoälyn kehityksen hidastaminen hyödyttäisi vain Kiinaa.
