介绍Anthropic研究所
内容摘要
Anthropic 推出了 Anthropic 研究所,这是一个新的倡议,致力于解决随着人工智能快速发展,强大的人工智能系统将对社会构成的重大挑战。该研究所将利用 Anthropic 的内部研究来告知外部研究人员和公众有关诸如工作岗位流失、经济重塑、潜在威胁以及人工智能治理(特别是关于递归自我改进)等问题。
该研究所由联合创始人 Jack Clark 担任公共利益负责人,汇集了前沿红队、社会影响和经济研究团队的专业知识,还将孵化新的工作,如预测人工智能进展和法律互动。由于可以接触到前沿人工智能构建者独有的信息,它拥有独特的视角,能够坦诚地报告技术发展情况,同时与受影响的社区进行互动。
与研究所的成立同时,Anthropic 正在扩大其公共政策组织,现由 Sarah Heck 领导,专注于模型安全、透明度和塑造全球人工智能治理等既定优先事项,包括开设其在华盛顿特区的第一个办事处。
(来源:Anthropic)