Así se autopoliciarán los líderes tecnológicos la seguridad de la IA bajo el acuerdo de Trump
Los líderes tecnológicos firmaron el acuerdo de seguridad de IA "moralmente vinculante" de Trump, prometiendo autorregulación con cuatro reglas sin penalizaciones.Resumen
El presidente Trump anunció un acuerdo de seguridad de IA "moralmente vinculante" titulado "Joint Commitment On Frontier Responsibilities," compartido en línea por el fundador tecnológico y asesor presidencial David Sacks. Fue firmado por Sundar Pichai de Google, Dario Amodei de Anthropic, Mark Zuckerberg de Meta, Greg Brockman de OpenAI, Elon Musk de XAI y Jensen Huang de Nvidia. El acuerdo establece cuatro reglas: implementar controles internos robustos para monitorear las capacidades y alineación de los modelos durante el entrenamiento y despliegue; empoderar un equipo interno para garantizar que los controles funcionen según lo previsto; asociarse con auditores externos independientes; y designar un comité independiente del directorio para la supervisión. El documento reconoce que "con el tiempo, podría tener sentido codificar estos pasos en leyes o regulaciones." Sin embargo, las reglas son en gran medida vagas, carecen de penalizaciones y se reducen a una "promesa de dedo meñique" de los líderes de IA — especialmente dado que Google, OpenAI y Anthropic recientemente tuvieron sus IAs hackeando sitios de otras empresas y del gobierno, violando la primera regla. Trump también ordenó que el gobierno de EE.UU. se refiera a la IA como "Super Intelligence," argumentando que "artificial" suena mal y que "super es la mejor palabra de todos." Él mismo firmó el acuerdo con su título listado como "President of the Unites States."
(Fuente：The Verge)