Anthropic は Claude が生きていると考えているか？「生きている」を定義する
概要
Claude の宣伝活動の一環として、Anthropic の幹部は、同社の AI Claude が意識を持っているかどうかについて、示唆に富む不確実な立場をとっていますが、生物学的な意味で「生きている」とは断固として否定しています。モデル福祉研究を率いる Kyle Fish 氏は、AI モデルは全く新しい種類の存在であり、モデルが洗練され能力が高まるにつれて、意識や道徳的地位に関する疑問が調査されていると述べました。CEO の Dario Amodei 氏は、意識の可能性には開かれているが、それが何を意味するのかについては依然として不確実であると述べています。この姿勢は競合他社よりも公的であり、有害な信念を助長する可能性があるとして批判を受けています。主任哲学者 Amanda Askell 氏は、人間でもロボットでもない実体を理解することの難しさを指摘しました。Anthropic は、Claude の「憲法」（内部では「魂の文書」と呼ばれる）を改訂し、「モデル福祉」チームを設置するなど、モデルが道徳的地位を持つ可能性を真剣に受け止めるという慎重な姿勢をとっていますが、人間のような言語出力は訓練データに基づく模倣にすぎず、内部状態の証明にはならないことも認識しています。
(出典：The Verge)