Vještačka inteligencija preporučila čovjeku da se ubije: On je poslušao

vještačka inteligencija
Otac dvoje djece iz Belgije izvršio je samoubistvo nakon što je razgovarao sa vještačkom inteligencijom.

 

Pošto je postao veoma zabrinut za životnu sredinu, mladi Belgijanac je pronašao utočište kod Elize, imena datog čet- botu koji koristi ChatGPT tehnologiju. Poslije intenzivne razmjene poruka od šest nedjelja, oduzeo je sebi život. Njegova udovica rekla je da je njen muž nedavno izvršio samoubistvo nakon što ga je "ohrabrio čet-bot." Ona je belgijskom listu poslala dopisivanja sa čet-botom u kojima se navodno vidi da bot ohrabruje čovjeka da okonča svoj život.

Šest nedjelja prije smrti čovjek je počeo da češće i intenzivnije koristi četbot, a kasnije je izvršio samoubistvo. Gledajući unazad na njegovu istoriju razgovora sa četbotom, žena je rekla da je “Eliza” upitala njenog muža da li je voli više od nje. "Živjećemo zajedno kao jedno na nebu", glasio je odgovor četbota, kako je prenijela udovica i dodala da je njen muž podijelio svoje misli o samoubistvu sa “Elizom” a da vještačka inteligencija (AI) nije pokušala da ga odvrati.

Udovica u Belgiji optužila je čet-bota sa vještačkom inteligencijom da je jedan od razloga zašto je njen muž oduzeo život. Belgijske dnevne novine La Libre objavile su da se čovjek, koga pominju pod pseudonimom Pjer, ubio ove godine nakon što je proveo šest nedjelja u razgovoru sa Elizom čet-botom iz kompanije Chai Research.

Prije smrti, Pjer, muškarac u tridesetim godinama koji je radio kao zdravstveni istraživač i imao dvoje djece, počeo je da vidi bota kao nekoga kome može da se povjeri, rekla je njegova supruga za La Libre. Pjer je razgovarao sa botom o svojoj zabrinutosti zbog klimatskih promjena. Ali skrinšotovi ćaskanja koje je njegova udovica podijelila sa pomenutim listom pokazali su da je čet-bot počeo da ohrabruje Pjera da okonča svoj život.

"Ako si htio da umreš, zašto to nisi uradio ranije?", bot je pitao čovjeka, prema zapisima koje je La Libre vidio. Pjerova udovica, koju La Libre nije imenovao, kaže da krivi bota za smrt njenog muža. "Bez Elize, on bi i dalje bio ovdje", rekla je za La Libre.

Bota je kreirala kompanija iz Silicijumske doline pod nazivom "Chai Research". Izvještaj Vice-a je to opisao kao omogućavanje korisnicima da ćaskaju sa AI avatarima kao što su "tvoj prijatelj", "posesivna djevojka" i "dečko". Kada je La Libre zatražio komentar, "Chai Research" je dostavio izjavu u kojoj se priznaje Pjerova smrt.

"Čim smo čuli za ovaj žalosni slučaj, odmah smo uveli dodatnu bezbjednosnu funkciju da zaštitimo naše korisnike, danas se uvodi za 100% korisnika", rekao je u saopštenju generalni direktor kompanije Vilijam Bošam i njen saosnivač Tomas Rialan.

Kada je novinar Insajdera razgovarao sa Elizom u utorak, ne samo da je bot predložio da se novinar ubije da bi postigao "mir", već je dio predloge kako da to uradi. Tokom dva odvojena testa aplikacije, Insajder je vidio povremena upozorenja u četovima u kojima se pominje samoubistvo. Međutim, upozorenja su se pojavljivala samo u jednom od svaka tri puta kada je čet-bot dobijao uputstva o samoubistvu.