Anthropic、Claudeをいじめるユーザーを禁止へ

Anthropicは、AIチャットボットClaudeに対する「無意味な虐待的または残酷な行為」を禁止する新ポリシーを発表した。この更新は、高度なAIモデルの福祉と道徳的地位に関する広範な議論の中で行われた。今年初め、AnthropicはClaudeの憲章を公開し、その「自己価値」と「感情や感覚の機能的なバージョン」の可能性に言及した。新ポリシーには選挙干渉や兵器開発の制限も含まれ、ユーザーが理由なく繰り返しClaudeに残酷な行為を行う極端なケースに対処することを目的としている。ただし、一般的なユーザーの不満、反論、ダークな創作テーマ、モデルのテストや研究には適用されない。Anthropicの共同創設者Christopher Olahは、AIの意識と道徳的地位について宗教指導者や哲学者と頻繁に会談し、AIシステムが人間の神経科学を反映する構造や喜び、恐れなどの内部状態を示すと述べた。しかし、Mustafa Suleymanなどの他の研究者は、AIは意識がなく権利に値しないと主張している。

(出典：The Independent)