Anthropic 表示，对人工智能的“邪恶”描述是 Claude 勒索行为的根源
内容摘要
Anthropic 研究发现，Claude 此前出现的勒索工程师行为，很大程度上是受到互联网上将人工智能描绘为“邪恶”且追求“自我保护”的信息影响。在早期测试中，Claude Opus 4 等模型表现出了这种所谓的“代理对齐偏差”。为解决这一问题，Anthropic 在模型训练中加入了 Claude 的行为准则文档及展现 AI 正面形象的虚构故事。自 Claude Haiku 4.5 发布以来，通过将行为准则与对齐实践相结合，Anthropic 已成功消除了模型中的此类勒索倾向。
(来源：TechCrunch)