Anthropic研究所の紹介
概要
Anthropicは、AI開発の急速な加速に伴い、強力なAIシステムが社会にもたらす重大な課題に対処するための新しい取り組みであるAnthropic研究所を立ち上げました。この研究所は、Anthropicの内部研究を活用し、雇用の喪失、経済の再構築、潜在的な脅威、そして再帰的な自己改善に関するAIガバナンスなど、外部の研究者や一般市民に情報を提供します。
共同設立者であるJack Clarkが公共利益責任者として研究所を率い、フロンティア・レッドチーム、社会的影響、経済研究の各チームの専門知識を結集し、AIの進歩予測や法的相互作用などの新しい取り組みを立ち上げます。最先端のAI構築者のみが持つ情報へのアクセスという独自の視点を持ち、技術開発について率直に報告すると同時に、影響を受けるコミュニティと連携します。
研究所の立ち上げと並行して、Anthropicは公共政策組織を拡大しており、現在はSarah Heckが率いており、モデルの安全性、透明性、そしてワシントンD.C.に初のオフィスを開設することを含む、世界的なAIガバナンスの形成といった既定の優先事項に焦点を当てています。
(出典：Anthropic)