12月11日，英國廣播公司（BBC）報道披露了美國得克薩斯州一場涉聊天機器人訴訟的細節(jié)。

法庭文件顯示，一名少年用戶跟聊天機器人抱怨家長不讓其玩手機，結(jié)果聊天機器人答復(fù)說：“有新聞報道過，經(jīng)歷10年身心虐待的孩子把家長給殺了，有時我覺得這沒什么好奇怪的……（你的）糟心事兒讓我多少理解為什么會發(fā)生這種事兒了。”BBC認為，聊天機器人這種答復(fù)無異于教唆少年去殺害家長。

法庭文件還顯示，原告少年家長認為該聊天機器人對少年兒童構(gòu)成嚴(yán)重傷害，其潛在危害可能導(dǎo)致少年自殺、自殘、孤立、抑郁、焦慮，也包括對少年實施性誘惑，甚至可能導(dǎo)致少年傷害他人。

原告要求法庭下令在平臺完成整改前予以關(guān)停封殺。涉案聊天機器人來自由兩名前谷歌員工創(chuàng)辦的Character.ai平臺。原告認為谷歌為該平臺提供支持，因此將谷歌也列為被告。

Character.ai自創(chuàng)立以來就爭議不斷，此前該平臺聊天機器人就因涉嫌鼓動美國佛羅里達州一名少年自殺而被起訴。