OpenAI adquiere Promptfoo para asegurar sus agentes de IA
OpenAI está adquiriendo la startup de seguridad de IA Promptfoo para integrar su tecnología en la plataforma OpenAI Frontier para asegurar agentes de IA.Resumen
OpenAI anunció la adquisición de Promptfoo, una startup de seguridad de IA fundada en 2024, cuyo objetivo es proteger los Modelos de Lenguaje Grandes (LLM) de adversarios en línea. Una vez cerrado el acuerdo, la tecnología de Promptfoo se integrará en OpenAI Frontier, la plataforma empresarial de OpenAI para agentes de IA. El desarrollo de agentes de IA independientes ha generado preocupación por la seguridad, lo que impulsa a los laboratorios fronterizos a priorizar la protección. Promptfoo, fundada por Ian Webster y Michael D’Angelo, desarrolla herramientas para probar vulnerabilidades de seguridad en LLMs, utilizadas por más del 25% de las empresas Fortune 500. OpenAI indicó que esta adquisición permitirá realizar pruebas de penetración automatizadas (red-teaming), evaluar flujos de trabajo de agentes por preocupaciones de seguridad y monitorear actividades para riesgos y cumplimiento, además de comprometerse a seguir desarrollando la oferta de código abierto de Promptfoo. El valor de la transacción no fue revelado.
(Fuente：TechCrunch)