米軍がベネズエラ襲撃でAnthropicのAIモデルClaudeを使用、と報道

the Guardian
米軍がベネズエラでの襲撃作戦中にAnthropicのAIモデルClaudeを使用したと報じられ、ポリシー順守が懸念されています。

概要

ウォール・ストリート・ジャーナル紙は、ニコラス・マドゥロの誘拐を目的としたベネズエラでの作戦中に、米軍がAnthropicのAIモデルClaudeを使用したと報じました。これは国防総省が人工知能を利用した注目すべき事例です。ベネズエラ国防省によると、この襲撃ではカラカスでの爆撃が含まれ、83人が死亡したとのことです。Anthropicの利用規約では、Claudeを暴力的目的、兵器開発、または監視のために使用することは明確に禁止されています。Anthropicは使用の有無についてコメントを控えたものの、ポリシーの順守が必要であると述べています。情報筋によると、ClaudeはAnthropicとPalantir Technologiesとの提携を通じて展開された模様です。この展開は、世界中の軍隊がAIの統合を深める中で起きており、批評家からは照準の誤りや自律型兵器システムに対する警告が出ています。一方、AnthropicのCEOであるDario Amodeiは規制を求めており、これは戦争を支援することを望むAIモデルを採用すると述べた米国防総省の姿勢とは対照的です。

(出典:the Guardian)