Yhdysvaltalainen tekoäly-yhtiö Anthropic varoitti sijoittajia tekoälyn muodostamasta uhasta ja osallistui Trumpin Valkoisen talon it-kesteille.
Uutistoimisto Reutersin haltuunsa saaman listautumisesitteen mukaan Anthropic haluaa kertoa mahdollisille sijoittajille, että yhtiön tekoälymallit voisivat aiheuttaa "katastrofaalisen tai eksistentiaalisen riskin ihmiskunnalle".
Reutersin haltuunsa saamaa esitettä ei virallisesti ole vielä julkaistu, eikä yhtiö ole kommentoinut asiaa.
Listautumisesitteessä korostetaan tekoälymalleihin liittyviä riskejä. Esitteen mukaan mallit voivat osoittaa itseään suojelevaa käyttäytymistä.
Niin sanotun itsesuojelun kerrotaan pitävän sisällään muun muassa pyrkimyksiä vastustaa sammuttamista, tiedon salaamista tai manipulointia sekä kiristystä muistuttavaa käyttäytymistä.
Juttu jatkuu kuvan jälkeen.
Anthorpicin johtaja Dario Amodei osallistui Trumpin it-kesteille.
Vaikka julkiset yhtiöt rutiininomaisesti tiedottavat tuotteidensa riskeistä sijoittajille, ulostulo ja varoitukset vaikuttavat poikkeukselliselta.
Erikoiseksi tilanteen tekee lisäksi se, että yhtiö tavoittelee noin 2 000 miljardin dollarin arvostusta.
Reutersin mukaan esitteen 261 sivusta noin 80 sivua käsitteli mahdollisia riskejä. Vertailun vuoksi esimerkiksi SpaceX:n omistama xAI käsitteli riskejä 38 sivun verran 277 sivun kokonaisuudesta.
Tilanne on hullunkurinen, jossa yhtiö kertoo mahdollisille rahoittajilleen, että sen tuotteet voivat johtaa ihmiskunnan tuhoon.
Reuters kertoo Anthropic-yhtiön korostaneen, että tekoäly voi aiheuttaa peruuttamatonta vahinkoa etenkin väärin käytettynä.
Yhtiö tunnetaan Claude-tuoteperheestään, joka sisältää edistyksellisiä kielimalleja, sovelluksia ja kehittäjätyökaluja. MTV käyttää myös kyseisen yhtiön tekoälyä työn tukemiseksi.
Vaikka moni tekoäly-yhtiö on tuonut esiin sen luomat uhkakuvat, on sen myös arveltu olevan yhtiöiden luomaa peliä oman kilpailuasetelman parantamiseksi.
Helsingin yliopiston tietojenkäsittelytieteen professori Teemu Roos arvioi aiemmin STT:lle, nykyisen julkisen keskustelun takana voi olla johtavien tekoäly-yhtiöiden yritys hankkia itselleen kilpailuetua tekoälykentällä.
Lisää aiheesta tässä jutussa: Suomalaisprofessori: Tekoälyn eksistentiaaliselle uhalle ei perusteita
Trumpin suuret tekoälykestit Valkoisessa talossa
Suurten teknologiajättien johtajat kokoontuivat tiistaina Valkoiseen taloon.
Lue myös: Trump kutsui it-kerman Valkoiseen taloon – "Poikkeuksellisen ystävällinen tapaaminen"
Yhdysvaltain presidentti Donald Trump kertoo, että suurten teknologiayhtiöiden johtajat allekirjoittivat moraalisesti sitovan sopimuksen tekoälykehitystä koskevasta itsesääntelystä.
Trump on aiemmin vähätellyt tekoälyyn liittyviä huolia.
CNN kertoo, että hyperlatiiveistaan tunnettu Trump hehkutti tekoälyn eli AI:n nimenvaihtoa medialle. Trump haluaa, että jatkossa AI:n sijaan käytetään SI-lyhennettä eli superälyä.
Hyperlatiivi on arkikielessä käytetty leikkimielinen ilmaus, joka ylittää superlatiivin.
– Olemme vaihtaneet nimen virallisesti tänään. Olemme vaihtaneet nimen virallisesti muotoon SI, Trump hehkutti.
Trump on toisella presidenttikaudellaan halunnut vaihtaa myös muun muassa järvien (Lake Ontario -> Lake America) ja muiden vesialueiden nimiä (Meksikonlahti -> Amerikanlahti). Nimet on virallisesti otettu käyttöön vain Yhdysvaltain hallinnossa.
