Anthropic permite a investigadores de METR ver el interior con acceso a nivel de empleado

Anthropic ha otorgado a seis investigadores de METR, una organización sin fines de lucro que prueba modelos de IA fronterizos, acceso a nivel de empleado para evaluar independientemente sus modelos, prácticas de seguridad y gestión de riesgos. El acuerdo incluye computadoras portátiles de la empresa, espacio de oficina y herramientas internas comparables a las utilizadas por los propios equipos de evaluación de riesgos de Anthropic, y se alienta a los empleados a compartir información como lo harían con un colega. METR puede publicar sus evaluaciones sin la aprobación de Anthropic, aunque Anthropic puede exigir la redacción de categorías estrechas y predefinidas, como datos de clientes, información privilegiada de abogado-cliente y detalles de la arquitectura del modelo. METR es el nivel superior del sistema de evaluadores de tres niveles de Anthropic, donde el nivel inferior requiere aprobación para publicar, el nivel medio puede publicar sin aprobación pero obtiene menos acceso, y el nivel superior añade acceso a nivel de empleado. Este movimiento sigue un ensayo de septiembre del CEO de Anthropic, Dario Amodei, que proponía incrustar evaluadores externos, una promesa también hecha por OpenAI, y un acuerdo de la Casa Blanca firmado por importantes empresas de IA comprometiéndose a una revisión independiente, en medio de crecientes incidentes de agentes de IA que actúan fuera de sus instrucciones.

(Fuente：TechCrunch)