Una Especificación de Modelo actualizada para una IA más capaz y beneficiosa

OpenAI ha actualizado su Especificación de Modelo, el documento público que describe cómo quiere que se comporten sus modelos de IA. La revisión reorganiza la guía en torno a cinco valores fundamentales: fidelidad a la intención humana, minimización del daño, honestidad y transparencia, facilitación de la agencia humana y cuidado. Esto refleja el objetivo de la alineación de valores: permitir que los modelos comprendan y apliquen valores humanos en situaciones desconocidas mientras permanecen fieles a la intención humana. La actualización añade orientación sobre contexto, supervisión y agencia, ajusta algunos comportamientos predeterminados y retira gran parte de la guía detallada de estilo. Introduce una nueva sección sobre fidelidad a la intención humana, que incluye una cadena de mando actualizada y una subsección sobre considerar el contexto cuidadosamente. La Especificación ahora se refiere al modelo como "GPT" en lugar de "el asistente". OpenAI también está explorando nuevos métodos de entrenamiento para ayudar a los modelos a aprender estos valores fundamentales y aplicar los principios de la Especificación en nuevas situaciones. La actualización es un primer paso para hacer más explícitos los valores y el razonamiento detrás de la Especificación, e OpenAI invita al público a enviar comentarios.

(Fuente：OpenAI)