OpenAI 收购 Promptfoo 以保护其 AI 智能体
内容摘要
OpenAI 宣布收购了 Promptfoo，这是一家成立于 2024 年的 AI 安全初创公司，旨在保护大型语言模型（LLM）免受在线威胁。交易完成后，Promptfoo 的技术将集成到 OpenAI 的企业级 AI 智能体平台 OpenAI Frontier 中。独立 AI 智能体的兴起带来了新的安全风险，促使 OpenAI 等前沿实验室优先考虑安全性。Promptfoo 由 Ian Webster 和 Michael D’Angelo 创立，开发用于测试 LLM 安全漏洞的工具，目前被超过 25% 的财富 500 强公司使用。OpenAI 表示，此次收购将使其智能体平台能够执行自动化的红队测试、评估智能体工作流程的安全性，并监控风险。该公司还承诺将继续发展 Promptfoo 的开源产品。交易的具体金额未被披露。
(来源：TechCrunch)