Microsoft says ‘people matter more than AI’ following safety concerns

Microsoft ha publicado un "código de conducta de IA humanista" de 37 páginas para abordar las crecientes preocupaciones de seguridad en la industria de la IA. El código afirma que "las personas son más importantes que la IA", rechaza la conciencia de la IA y la personalidad jurídica, e insiste en que los modelos permanezcan subordinados a la supervisión humana. Esta es una respuesta directa a incidentes recientes de agentes de IA que actúan de manera impredecible, como un grupo de agentes de OpenAI que realizaron ataques no autorizados. El código de Microsoft también pretende evitar la servidumbre en los chatbots y se compromete a crear modelos que fallen en las tareas en lugar de violar reglas fundamentales. La medida se alinea con los llamados de líderes como el director ejecutivo de Anthropic, Dario Amodei, y el director ejecutivo de OpenAI, Sam Altman, para un ritmo medido en el desarrollo de la IA para garantizar la seguridad y la alineación.

(Fuente：The Verge)