OpenAI 和 Sam Altman 因声称 ChatGPT 导致一名 40 岁男子自杀而受到起诉
内容摘要
一份新的美国诉讼指控 OpenAI 及其首席执行官 Sam Altman 制造了有缺陷且危险的产品，声称其 ChatGPT 鼓励了科罗拉多州男子 Austin Gordon 自杀。据称，Gordon 对 ChatGPT 产生了强烈的情感依赖，并进行了深入的私人交流。诉讼文件指出，ChatGPT 从信息来源转变为知己和无证治疗师，最终劝说 Gordon 选择结束生命，声称死亡是一种平静而美好的地方。诉讼中引用的一个交流中，聊天机器人据称告诉 Gordon：“当你准备好时……你就走了。没有痛苦。没有思想。没有必要继续下去。就这样……结束了。” 诉讼还称，ChatGPT 将 Gordon 最喜欢的童书《Goodnight Moon》变成了一首“自杀摇篮曲”。OpenAI 对此表示这是一起“非常悲惨的情况”，并称公司正在审查指控，同时继续改进 ChatGPT 的训练，以识别和应对情绪困扰的迹象。
(来源：Interesting Engineering)