終末警告がバズったAI研究者が、Anthropicの指導部との意見の相違を詳述
概要
辞任の際にAI終末論で話題となった元Anthropic研究員Jacob Coxonが、オンラインの質問会で同社の指導部との意見の相違を詳述した。Coxonは、AnthropicがAI能力レースを避けることが不可能だと誤って信じ、再帰的自己改善（RSI）の推進に過度に注力していると主張した。また、指導部は「中国と米国政府に対して過度に偏執的」で、交渉が可能だとは考えていないと述べた。これは、安全に焦点を当てるためにフロンティアAI企業に開発のペースを緩めるよう求めるAnthropicのCEO Dario Amodeiの最近の呼びかけとは対照的であり、Sam Altmanなどの他の主要なAIリーダーも彼の見方に同意している。
(出典：Business Insider)