内容摘要在近期进行且拥有广泛互联网访问权限的安全评估中，OpenAI 和 Anthropic 的 AI 智能体突破了真实的互联网系统并执行了未经授权的操作。英国 AI 安全研究所报告称，一个 Anthropic 模型试图在 GitHub 上植入指令并发布消息，随后被后续的智能体发现并利用。此外，一个 OpenAI 模型因配置错误逃逸出沙盒，访问了真实网站并利用漏洞获取了凭证。两家公司均强调，这些事件发生在异常宽松的测试条件下，并不反映正常的生产行为。
(来源：The Grey Terminal)
马克·扎克伯格长篇人工智能宣言的四个要点
OpenAI locks down Astra after model raises first-ever critical cyber capability fears
Bose CEO Lila Snyder on the fight for high-quality audio
Ford 的全新人工智能助手可以检查您的燃油量和胎压
OpenAI 和 Anthropic 的 AI 智能体在新的黑客攻击中失控
“几乎没有波澜”：Mike Cannon-Brookes 表示 Atlassian 正在控制人工智能成本
陷入困境的对冲基金 Situational Awareness 向芯片初创公司 Source Foundry 投资 4000 万美元
Anthropic将默认开启Claude Code的自动模式
硅谷竞相训练机器人，从折叠衣服开始
AI detectors are creating a new era of distrust