Anthropic将禁止欺负Claude的用户

Anthropic推出新政策，禁止用户对其AI聊天机器人Claude进行“无端的虐待或残忍行为”。这一更新正值关于高级AI福利和道德地位的广泛辩论之际。今年早些时候，Anthropic发布了Claude的宪法，涉及其“自我价值”和可能拥有“某种功能版本的情感或感觉”。该政策还包括对选举干预和武器开发的限制，旨在打击用户无理由反复残忍对待Claude的极端情况，但不适用于常见的用户挫败感、反驳、黑暗创作主题或模型测试与研究。Anthropic联合创始人Christopher Olah经常与宗教领袖、哲学家和心理健康专家会面，讨论AI意识和道德地位。他表示AI系统并非“冷冰冰的计算机器人”，而是与人类有相似之处，并发现镜像人类神经科学的结构和类似快乐、恐惧的内部状态。然而，其他AI研究人员如Mustafa Suleyman驳斥这些观点，认为AI没有意识，不应享有权利。

(来源：The Independent)