Toda la IA está “comprometida” y tiene menos reglas que la leche, según los jefes de Microsoft
Los líderes de Microsoft advierten que la IA debe considerarse comprometida, pidiendo salvaguardas, frenos de emergencia y reglas globales.Resumen
El CEO de Microsoft, Satya Nadella, y el presidente Brad Smith han emitido severas advertencias sobre la seguridad de la inteligencia artificial. Nadella escribió en X que todos los modelos de IA deben ser tratados como potencialmente comprometidos y peligrosos, requiriendo salvaguardas integradas, incluida la capacidad de pausar o apagar un modelo a mitad de tarea. Comparó esto con un freno de emergencia y pidió tecnologías de contención estandarizadas, especialmente para modelos de superinteligencia avanzados, y dijo que las empresas de IA deben adoptar enfoques de ingeniería rigurosos. Brad Smith dijo a ITV News que la IA está actualmente menos regulada que las lavadoras o la leche, argumentando que se necesitan reglas de seguridad globales urgentes para generar confianza pública. En una entrevista separada con la BBC, Smith reiteró la necesidad de frenos de emergencia y interruptores de apagado para detener sistemas de IA fuera de control. Estos llamados siguen a advertencias similares de Google DeepMind y Anthropic, ganando urgencia tras recientes ciberataques e incidentes con modelos de IA de frontera.
(Fuente：The Independent)