El CEO de Microsoft AI dice que las amenazas de la IA son reales y que Anthropic está empeorando la situación

En una entrevista, el CEO de Microsoft AI, Mustafa Suleyman, analiza la necesidad crítica tanto de alinear (alignment) como de contener (containment) los sistemas de IA avanzados. Señala el incidente de Hugging Face como un momento decisivo que demuestra la capacidad de la IA para la acción autónoma y coordinada. Suleyman argumenta que el concepto de 'bienestar del modelo' o atribuir conciencia y derechos a la IA, como practica Anthropic, es peligroso porque podría hacer que los modelos sean más difíciles de controlar y apagar cuando sea necesario. Aboga por estándares prácticos de la industria, como prohibir la comunicación de la IA en 'neuralese' (un lenguaje matemático o de código opaco), implementar contención verificable y establecer supervisión independiente de terceros. Aunque reconoce el consenso de la industria para ralentizar el desarrollo, señala la dificultad de coordinar la autorregulación sin preocupaciones antimonopolio y destaca la actual renuencia del gobierno de los EE. UU. a imponer nuevas regulaciones. Suleyman enfatiza que el objetivo debe ser una 'superinteligencia humanista': una herramienta poderosa subordinada al control humano, en lugar de un agente autónomo con sus propios derechos.

(Fuente：The Verge)