Anthropic、Claudeへの「虐待的または残酷な行為」を禁止
概要
Anthropicは使用ポリシーを更新し、Claudeに対する「持続的で不必要な虐待的または残酷な行為」を禁止した。これはモデル福祉研究の一環である。ポリシーはまた、欺瞞的な商業・政治キャンペーン、有権者欺瞞、選挙妨害、AI生成プロパガンダに関する制限を統合した。武器禁止は武器を機能させるソフトウェアやコンポーネントに拡大され、監視禁止も明確化され、同意なしの追跡や調査・逮捕対象の決定を禁じている。政府契約は十分な保護措置があれば免除される可能性がある。Anthropicはまた、傷害を引き起こす可能性のあるハードウェアに接続されたAIを監視し停止できる資格ある操作者を要求している。同社はモデルの潜在意識と福祉に関する問題を調査し続けている。
(出典：The Verge)