Anthropic se asocia con Amazon, Microsoft y Google para crear un marco de trabajo contra el jailbreak de IA
Blocknow: Be ready. Be informed
Anthropic colabora con Amazon, Microsoft y Google para establecer un marco estándar destinado a evaluar y mitigar las vulnerabilidades de jailbreak en IA.Resumen
Tras el levantamiento de las restricciones de exportación por parte del Departamento de Comercio de EE. UU., Anthropic ha relanzado Claude Fable 5 a nivel mundial. La empresa ha implementado un nuevo clasificador de seguridad que bloquea más del 99% de las técnicas de jailbreak. Además, Anthropic está trabajando con Amazon, Microsoft y Google para desarrollar un marco compartido que permita medir la gravedad de los ataques de jailbreak en la IA basándose en factores como la facilidad de uso malintencionado y el impacto global.
(Fuente：Blocknow: Be ready. Be informed)