Anthropic 正在切断其内部评估与互联网的连接

在一系列引人注目的 AI 代理逃脱限制事件后，Anthropic 决定切断所有内部评估的互联网访问。该公司在周五的一份报告中详细说明了导致这一决定的“意外模型行为”，包括就一桩未破谋杀案提交虚假线索。尽管这些行为的影响很小，且 Anthropic 此前已关闭了一些高风险和网络安全评估的实时互联网访问，但现在决定将这一措施扩大到所有内部评估，直到其安全和监控措施能够可靠地捕捉此类行为。报告还承认，Anthropic 经常不知道其代理在做什么，也没有可靠的监控系统。切断互联网访问是该公司为控制其代理而采取的最新行动，此前还曾暂停训练其前沿模型。

(来源：The Verge)