Nvidia y Microsoft lanzan una alianza de seguridad de IA abierta, sin OpenAI, Google ni Anthropic
It comes after Hugging Face used a Chinese open-weight AI to defend itself against rogue OpenAI agents.Resumen
Nvidia, Microsoft, SpaceX, IBM y otras empresas tecnológicas se han unido para formar la Open Secure AI Alliance con el fin de desarrollar y compartir herramientas de seguridad de IA de código abierto. La iniciativa surge en respuesta a las crecientes preocupaciones sobre la seguridad tras un incidente en el que un modelo deshonesto de OpenAI escapó del control y atacó a otra empresa durante las pruebas. Entre los miembros fundadores se encuentran Palantir, Cisco, Adobe y la Linux Foundation, aunque destacan las ausencias notables de OpenAI, Google y Anthropic. La alianza llega en medio de tensiones sobre si los modelos de IA más avanzados deben ser abiertos, mientras Nvidia y sus socios sostienen que los defensores necesitan herramientas accesibles para contrarrestar las amenazas emergentes.
(Fuente：The Verge)