Satya Nadella afirma que deberíamos asumir que todos los modelos de IA están “comprometidos”
El CEO de Microsoft, Satya Nadella, insta a la industria de la IA a tratar todos los modelos como comprometidos desde el inicio, con medidas de contención y apagado de emergencia.Resumen
En una extensa publicación en X, el CEO de Microsoft, Satya Nadella, expuso sus puntos de vista sobre los peligros que plantean los modelos de IA altamente avanzados y cómo enfrentarlos. Sostiene que ya no podemos aceptar un mundo en el que la IA se trate como un “conjunto de cajas negras anidadas” cuyos consejos y acciones simplemente aceptamos o rechazamos, y pide construir un sistema más transparente en el que los modelos puedan ser contenidos, observados y dejen “evidencia legible por humanos a prueba de manipulaciones”.
Muchas de sus recomendaciones coinciden con lo que hemos oído de otros en la industria: divulgación oportuna de incidentes, auditorías independientes, datos verificables y contención. En este último punto parece ir un poco más lejos que otros en el sector, al afirmar que debemos asumir que un modelo está comprometido y contenerlo desde el principio, comparándolo con un “freno de emergencia”, y que una persona autorizada debería poder siempre pausar o apagar un modelo a mitad de tarea. Añade que los modelos más avanzados requerirán tecnologías de contención más avanzadas que deben estandarizarse.
Lamentablemente, Nadella también se refiere a la IA como “superinteligencia” a lo largo de la publicación.
(Fuente：The Verge)