拓宽前沿人工智能的对话
内容摘要
Anthropic 正通过咨询来自不同传统的学者、神职人员、哲学家和伦理学家,将讨论范围扩大到技术圈之外,从而为前沿 AI 的开发提供参考。通过探讨品格与美德的概念,该公司致力于将多元观点融入其 AI 模型 Claude 的宪法价值观和行为准则中。初步实验表明,为 Claude 提供自我反思和提醒其道德承诺的工具,能够有效降低偏离行为。未来,该公司计划进一步探讨人工智能对社会、制度和权力分配的影响。
(来源:Anthropic)