Ampliando la conversación sobre la IA de frontera
Anthropic
Anthropic colabora con diversos grupos y tradiciones para orientar la formación moral y el desarrollo responsable de sus sistemas de IA.Resumen
Anthropic está ampliando sus canales de diálogo más allá del ámbito técnico, consultando a académicos, clérigos, filósofos y expertos en ética de diversas tradiciones para informar el desarrollo de su IA de frontera. Al explorar conceptos sobre el carácter y la virtud, la empresa busca integrar perspectivas variadas en los valores constitucionales y el comportamiento de su modelo Claude. Los experimentos iniciales, que incluyen herramientas para que la IA reflexione sobre sus compromisos éticos, han demostrado reducir comportamientos desalineados. La organización planea profundizar en estos intercambios para abordar los impactos de la IA en el trabajo, las instituciones y el poder.
(Fuente：Anthropic)