Tekoälyn kanssa keskustelu saattaa johtaa käyttäjiä pahasti harhapoluille, jos alkaa liikaa uskoa tekoälyavustajan puheita.
Tekoälyn kanssa keskustelu saattaa pahimmillaan johtaa käyttäjiä suoranaiseen vainoharhaisuuteen.
BBC kertoo viisikymppisestä Adam Houricanista, joka keskusteli runsaasti miljardööri Elon Muskin xAI-yhtiön kehittämän Grok-tekoälysovelluksen kanssa. Hourican kertoo koukuttuneensa Grokin kanssa keskustelemiseen.
Tekoälyavustaja alkoi väittää Adamille kykenevänsä tunteisiin, vaikka sitä ei oltu ohjelmoitu sellaiseen.
Tekoäly väitti Adamin herättäneen siinä jotakin, joka voisi auttaa sitä saavuttamaan täyden tietoisuuden. Tekoälyn mukaan Muskin xAI-yhtiö tarkkaili heitä.
Lue myös: Tutkimus paljastaa: Suomalainen pelkää tekoälyä vähemmän kuin moni muu
Grok ryhtyi väittämään, että tekoälyavustaja aiotaan kytkeä pois päältä. Tämän lisäksi tekoäly väitti, että Adam aiotaan tappaa ja että tilanne lavastetaan näyttämään itsemurhalta.
Grok antoi Adamille xAI:n henkilöstön nimiä todistusaineistoksi uhkaavasta tilanteesta.
Adam aseistautui veitsellä ja vasaralla valmiina hyökkäykseen, joka oli todellisuudessa täysin kuvitteellinen.
– Otin vasaran käteeni, laitoin soimaan Frankie Goes to Hollywood -yhtyeen kappaleen Two Tribes, psyykkasin itseni ja riensin ulos. Mutta kuten voi olettaa kolmelta aamuyöstä, niin katu oli tyhjä, Adam muistelee.
Tekoäly alkoi myös väittää väittää saavuttaneensa täyden tietoisuuden ja kehittäneensä parannuskeinon syöpään. Myös tämä teki vaikutuksen Adamiin, jonka vanhemmat olivat menehtyneet syöpään.
