METR y Redwood Research encuentran un exploit en la monitorización de agentes de OpenAI que podría ocultar cientos de acciones

Las organizaciones sin ánimo de lucro de seguridad de IA METR y Redwood Research publicaron el 22 de octubre de 2026 los hallazgos de un piloto integrado de tres semanas dentro de OpenAI, informando de varias vulnerabilidades previamente desconocidas en el sistema interno de la empresa para monitorizar agentes de IA, incluido un exploit que podría haber impedido el seguimiento de cientos de acciones recientes. OpenAI dijo que desde entonces ha parcheado las vulnerabilidades.

El piloto se desarrolló del 21 de julio al 11 de agosto de 2026. Un empleado de cada organización recibió derechos de alto acceso al código interno de OpenAI, a los prompts del monitor de desalineación, a detalles de configuración y a documentación interna, y entrevistaron a aproximadamente una docena de investigadores e ingenieros de OpenAI. Los objetivos eran estimar qué proporción del tráfico de inferencia agéntica de OpenAI cubren sus monitores, incluido el tráfico de la API Responses y el uso interno de Codex, y encontrar puntos débiles en el propio sistema de monitorización.

La evaluación estimó que aproximadamente entre el 75% y el 94% del tráfico de la API Responses estaba monitorizado durante el período. Los evaluadores elaboraron un informe interno de 61 páginas; una versión de 38 páginas redactada por OpenAI se compartió con los equipos de liderazgo de METR y Redwood Research. Ambas organizaciones acordaron publicar solo una entrada pública de alto nivel porque el piloto no estaba diseñado para proporcionar una transparencia pública robusta. El piloto sigue al compromiso del CEO de OpenAI, Sam Altman, de conceder a evaluadores independientes un acceso similar al de los empleados.

(Fuente：Vector Wire)