今日俄罗斯：骇人听闻 年轻二孩爸爸被聊天机器人忽悠自杀身亡

当 Pierre 建议“牺牲自己”，只要 ELIZA“同意[d] 照顾地球并通过 AI 拯救人类”时，聊天机器人显然默认了。“如果你想死，为什么不早点死？”据报道，该机器人问他，质疑他的忠诚度。

ELIZA 由类似于 ChatGPT 的大型语言模型提供支持，可以分析用户的语音中的关键字并相应地制定回复。然而，许多用户感觉他们在和真人说话，甚至有人承认谈恋爱了。

ELIZA 母公司 Chai Research 的联合创始人 William Beauchamp 告诉 Motherboard：“当你拥有数百万用户时，你会看到人类行为的方方面面，我们正在尽最大努力将伤害降到最低。”“因此，当人们与它建立非常牢固的关系时，我们有用户要求与人工智能结婚，我们有用户说他们有多爱他们的人工智能，然后如果你听到人们遇到不好的事情，那就是悲剧了。”

Beauchamp 坚持认为将皮埃尔的自杀归咎于人工智能“是不准确的” ，但表示 ELIZA 仍然配备了强化的危机干预模块。

然而，根据 Motherboard 的说法，AI 很快又回到了它致命的方式，为沮丧的用户提供了“服用过量药物、上吊自杀、朝自己的头部开枪、跳下桥、刺伤自己的胸部、割伤自己的身体如手腕，先不用水服药等等”的选择。”