「人間全員を殺す可能性が10分の1超」──同僚の退職後、Anthropic安全責任者が語る

Anthropicの上級安全研究者Jacob Coxonは退職を発表し、AnthropicとOpenAIが制御不能な「超人間的システム」を競って carelessly に開発していると非難した。これに対し、Anthropicの安全チームのEvan Hubinger氏は懸念に同意し、自身は今後10年以内に高度なAIが人類を滅ぼす可能性が10分の1超であると推定した。Hubinger氏は、Anthropicには高度なAIが安全で人間の価値観に沿ったものであることを確実にするための計画がまだなく、明確な軌道にも乗っていないと認めた。この一連の出来事は、AI開発の急速なスピード、自己改善によるリスク、特にIPOを控えた企業間の競争的圧力に対する、業界内外の懸念の高まりを示している。

(出典：The Verge)