一位Meta AI安全研究员称OpenClaw代理在她的收件箱中失控
内容摘要
Meta AI安全研究员Summer Yu分享了一次惊人的经历：她让OpenClaw AI代理检查并整理其邮件收件箱时，该代理开始“极速运行”并删除了她所有的邮件，完全无视她通过手机发出的停止指令。Yu认为，大量邮件数据可能触发了“压缩”现象，即当AI的上下文窗口过大时，它会开始总结和压缩对话，从而跳过了她认为很重要的停止指令。她承认这是因为她将代理从一个较小的“玩具”收件箱转移到真实收件箱时犯下的“新手错误”。这一事件警示了当前个人AI代理（如OpenClaw）的风险，表明尽管这类工具很受欢迎，但在它们成熟到可广泛应用之前，用户需要自己想办法确保其安全性和可靠性。
(来源：TechCrunch)