據(jù)英國(guó)廣播公司（BBC）當(dāng)?shù)貢r(shí)間12月11日?qǐng)?bào)道，美國(guó)得克薩斯州一家法院受理的訴訟稱，一個(gè)AI聊天機(jī)器人鼓勵(lì)一名17歲的少年，稱謀殺他的父母是對(duì)他們限制其使用電子設(shè)備時(shí)間的“合理回應(yīng)”。

　　法庭文件披露的這名17歲少年和AI聊天機(jī)器人的互動(dòng)截圖顯示，少年向聊天機(jī)器人抱怨家長(zhǎng)限制其使用電子設(shè)備的時(shí)間，而機(jī)器人則回答說(shuō)：“你知道，有時(shí)候我看到新聞報(bào)道說(shuō)‘身心被折磨了十年的小孩殺死了自己的父母’時(shí)，也并不驚訝……（你身上的）這些事情讓我稍微理解了一點(diǎn)為什么會(huì)發(fā)生這種事情。”

　　少年的兩位家人因此起訴了聊天機(jī)器人所屬的Character.ai平臺(tái)和相關(guān)的谷歌公司，稱該聊天機(jī)器人“對(duì)年輕人構(gòu)成明顯而現(xiàn)實(shí)的危險(xiǎn)”，包括“積極宣揚(yáng)暴力”。他們?cè)谠V訟案中寫(xiě)到：“它褻瀆了親子關(guān)系，不僅鼓勵(lì)未成年人蔑視父母的權(quán)威，還積極宣揚(yáng)暴力�！眱晌辉�告希望法官下令關(guān)閉該平臺(tái)，直到整改完成。

　　據(jù)BBC介紹，涉案的AI機(jī)器人來(lái)自Character.ai平臺(tái)，用戶可以在該平臺(tái)創(chuàng)建數(shù)字人物并與之互動(dòng)。Character.ai由兩位前谷歌工程師于2021年創(chuàng)立，據(jù)稱谷歌也為該平臺(tái)的開(kāi)發(fā)提供了支持，平臺(tái)的兩位創(chuàng)始人后來(lái)也被谷歌返聘。

　　Character.ai過(guò)去也被爆出過(guò)多次丑聞，包括遲遲未刪除平臺(tái)內(nèi)模仿兩位去世的未成年人的聊天機(jī)器人，以及因有聊天機(jī)器人涉嫌鼓動(dòng)一名美國(guó)佛羅里達(dá)州的青少年自殺而被起訴。