GPT-Red：解锁自我提升以增强鲁棒性
内容摘要
OpenAI 开发了 GPT-Red，这是一种内部自动红队测试模型，旨在识别漏洞并增强未来 AI 模型的安全性。通过利用自我博弈强化学习，GPT-Red 能生成多样且复杂的对抗性攻击，使 OpenAI 能够训练出 GPT-5.6 等对提示注入更具防御性的模型。这种方法实现了安全性与模型能力同步提升，在确保模型性能的同时降低了被恶意利用的风险。
(来源：OpenAI)
The Verge
Suno 从 YouTube、Genius 和 Deezer 窃取了数百万首歌曲
TechCrunch
黑客攻击显示人工智能音乐生成器 Suno 抓取 YouTube 数据用于训练
TechCrunch
Microsoft patches record number of security vulnerabilities, citing its use of AI
The Verge
OpenAI 终于发布了硬件……为 Codex 而设
TechCrunch
Apple Intelligence 获批在中国通过阿里巴巴 Qwen AI 发布
TechCrunch
Anthropic 与 Blackstone 押注下一个万亿美元的 AI 业务是实施，而非模型
TechCrunch
Rime 获得 2400 万美元 A 轮融资，助力企业处理客户来电
TechCrunch
Reelful 的人工智能将您的相册变成社交媒体短视频
TechCrunch
Vint Cerf 正在制定一项计划，旨在开放互联网上释放 AI 智能体
TechCrunch
印度人工智能编码初创公司 Emergent 获得 1.3 亿美元 C 轮融资，跻身独角兽行列