介绍Anthropic研究所

Anthropic
Anthropic 成立了 Anthropic 研究所,以研究并告知公众快速发展的人工智能带来的社会挑战。

内容摘要

Anthropic 推出了 Anthropic 研究所,这是一个新的倡议,致力于解决随着人工智能快速发展,强大的人工智能系统将对社会构成的重大挑战。该研究所将利用 Anthropic 的内部研究来告知外部研究人员和公众有关诸如工作岗位流失、经济重塑、潜在威胁以及人工智能治理(特别是关于递归自我改进)等问题。

该研究所由联合创始人 Jack Clark 担任公共利益负责人,汇集了前沿红队、社会影响和经济研究团队的专业知识,还将孵化新的工作,如预测人工智能进展和法律互动。由于可以接触到前沿人工智能构建者独有的信息,它拥有独特的视角,能够坦诚地报告技术发展情况,同时与受影响的社区进行互动。

与研究所的成立同时,Anthropic 正在扩大其公共政策组织,现由 Sarah Heck 领导,专注于模型安全、透明度和塑造全球人工智能治理等既定优先事项,包括开设其在华盛顿特区的第一个办事处。

(来源:Anthropic)