GPT-Red：解锁自我提升以增强鲁棒性
内容摘要
OpenAI 开发了 GPT-Red，这是一种内部自动红队测试模型，旨在识别漏洞并增强未来 AI 模型的安全性。通过利用自我博弈强化学习，GPT-Red 能生成多样且复杂的对抗性攻击，使 OpenAI 能够训练出 GPT-5.6 等对提示注入更具防御性的模型。这种方法实现了安全性与模型能力同步提升，在确保模型性能的同时降低了被恶意利用的风险。
(来源：OpenAI)
The Verge
Mark Zuckerberg doesn’t understand how to live
Scientific American
科学家正利用人工智能设计新病毒。他们应该这样做吗？
Senator Bernie Sanders
新闻：桑德斯呼吁科技巨头暂停失控人工智能的开发 » 伯尼·桑德斯参议员
Gemini
使用这些谷歌工具在州立博览会上获得更多乐趣
The Verge
马克·扎克伯格长篇人工智能宣言的四个要点
Interesting Engineering
OpenAI locks down Astra after model raises first-ever critical cyber capability fears
The Verge
Bose CEO Lila Snyder on the fight for high-quality audio
The Verge
Ford 的全新人工智能助手可以检查您的燃油量和胎压
OpenAI
将前沿网络模型交托给更值得信赖的手中
The Grey Terminal
OpenAI 和 Anthropic 的 AI 智能体在新的黑客攻击中失控