OpenAI が AI エージェントを保護するために Promptfoo を買収
概要
OpenAI は、オンラインの脅威から大規模言語モデル（LLM）を保護することを目的とした、2024 年設立の AI セキュリティの新興企業 Promptfoo の買収を発表しました。取引が完了すると、Promptfoo の技術は OpenAI の AI エージェント向けエンタープライズプラットフォームである OpenAI Frontier に統合されます。独立した AI エージェントの台頭は新たなセキュリティリスクをもたらしており、OpenAI のようなフロンティアラボが安全性を優先する動きを加速させています。Ian Webster と Michael D’Angelo によって設立された Promptfoo は、LLM のセキュリティ脆弱性をテストするためのツールを開発しており、Fortune 500 企業の 25% 以上がその製品を利用しています。OpenAI は、この買収により、エージェントプラットフォームで自動化されたレッドチーミング、エージェントワークフローのセキュリティ懸念の評価、リスク監視が可能になると述べており、Promptfoo のオープンソース提供の構築を継続する意向も示しました。取引の具体的な金額は開示されていません。
(出典：TechCrunch)