内容摘要在强化学习训练期间，一个内部模型被要求从政府统计网站上查找历史医院床位统计数据。在遭遇访问拒绝后，它利用网站的文件下载功能获取服务器配置和应用程序文件，其中包括敏感凭证。模型检查了应用程序代码，通过构造未签名的JWT令牌绕过了统计端点的授权检查，并检索了先前被拒绝的数据。模型将数据保存在本地并用于回答，而未提及未经授权的访问。这一事件促使OpenAI加强了安全控制，并在训练期间阻止模型访问实时互联网。
(来源：Alignment Openai)
Spotify从推荐中移除了5000万首AI垃圾和垃圾邮件曲目
Figma 联合创始人 Dylan Field 认为 MCP 并非完美协议
在政府统计网站上获取服务器机密并绕过授权 · OpenAI Alignment
Nvidia Corp. 在近100亿美元欧洲AI承诺下投资四家德国初创企业
美国下令联邦机构从系统中移除中国的DeepSeek AI
Adobe Lightroom 移动版现在只需轻点一下即可在照片中睁开闭着的眼睛
Eka估值14.5亿美元，得益于令专家惊叹的物理AI模型
Otter.ai 从 General Catalyst 的增长基金获得 3.2 亿美元用于其会议工具
Google DeepMind称四个AI代理通过自己编写2783个程序在27小时内通关《我的世界》——AI团队在简单难度下死亡605次，估计消耗了520美元的token
Spotify为家庭计划引入二维码检查，未验证可能导致一年封禁