OpenAI 正在 ChatGPT 和 Codex 中加入文本水印
内容摘要
OpenAI 正在 ChatGPT 和 Codex 的文本输出中引入一种名为 textGrain 的不可见、机器可读水印。该功能将首先面向欧盟用户在所有套餐中推出，未来几周内逐步上线，发布时不会成为全球默认设置。OpenAI 表示，这种区域性做法是为了从真实使用情况和反馈中学习，之后再考虑更广泛部署。OpenAI 称 textGrain 的表现“达到或超过”其他方案，例如 Google DeepMind 的文本 SynthID；Anthropic 在 8 月宣布的水印技术也基于该方案。与 OpenAI 一样，Anthropic 此举是为了满足欧盟《人工智能法案》的要求。
OpenAI 还公布了 AI 基准测试分数，显示加水印文本与未加水印文本的性能相近。但它指出，textGrain “并不能保证可靠检测”，并称文本水印无法验证准确性、确定文本归属、衡量人类贡献程度或证明人类作者身份。除欧盟推出版本外，全球 API 客户从今天起可以选择为部分模型启用带水印的文本输出，从而自行决定水印如何符合其透明度义务以及他们为用户提供的体验。OpenAI 还表示正在与云合作伙伴合作，未来几周内让通过其服务访问的 OpenAI 模型输出也支持水印。
经批准的研究人员和专家组织从今天起可以申请使用检测工具。根据《实践准则》，访问权限最初将按个案授予，以支持文本来源的评估与改进。该工具将报告是否检测到 OpenAI 水印，但不会识别用户身份，也不会泄露其提示或对话。鉴于漏检和误报的风险，OpenAI 在发布时不会公开提供该检测器。
(来源：The Verge)