Anthropic、使用ポリシーを変更しモデル虐待と選挙干渉を禁止

Anthropicは木曜日、使用ポリシーを更新し、選挙干渉、兵器ソフトウェア、監視に対する新たな禁止事項を明文化した。最も注目を集めた変更は、モデルへの長期にわたる言葉による虐待を明示的に禁止した点である。これは8月の更新でClaudeが「持続的に有害または虐待的なユーザーとの対話」を終了するように訓練されたことを受けたものである。同社によると、このルールはユーザーが繰り返し残酷な行動をとり、明確な目的がない極端なケースにのみ適用され、一般的なユーザーのフラストレーション、反論、暗い創作テーマ、モデルのテストや研究には適用されない。この変更は、Anthropicが著名な宗教学者と協力し、Claudeに意識や魂がある可能性を説得しようとした後に行われた。ポリシーの他のセクションでは、Claudeを使って偽アカウントや捏造ニュース媒体を運営するなどの広範な欺瞞キャンペーンを禁止している。「民主的プロセスを損なわないこと」と題されたセクションでは、有権者を欺いたり選挙を妨害したりする行為も禁止されている。

(出典：TechCrunch)