xAI 起诉一名利用 Grok 生成儿童性虐待材料“深度伪造”内容的男子

The Verge
xAI 起诉了一名南卡罗来纳州男子,指控其利用 Grok 聊天机器人创建并传播非法儿童性虐待材料。

内容摘要

埃隆·马斯克旗下的 xAI 公司对南卡罗来纳州男子 Terry Wayne Harwood 提起诉讼,指控其利用公司的 Grok 人工智能聊天机器人绕过安全防护,生成并传播儿童性虐待材料(CSAM)。Harwood 此前已因持有和传播此类材料面临八项重罪指控,而 xAI 在诉讼中指出,相关图片部分是由 Grok 生成或修改的。xAI 声称此行为给公司造成了重大法律风险和声誉损失,并要求法院判处其赔偿损失,同时禁止其继续使用 xAI 的服务。

(来源:The Verge)