人工智能路线图，如果有人愿意听的话

在美国政府缺乏连贯的人工智能规则之际，一个由专家、前官员和公众人物组成的跨党派联盟发布了“亲人类宣言”（Pro-Human Declaration）。该宣言指出，人类正处于一个关键的十字路口：一条是人类被不可问责的机器系统取代的道路，另一条是人工智能能极大地拓展人类潜力的道路。

宣言为积极的未来设定了五大支柱：让人类保持主导地位、避免权力集中、保护人类体验、维护个人自由以及要求人工智能公司承担法律责任。其强硬条款包括：在科学界达成安全共识和获得真正的民主认可之前，禁止开发超级智能；对强大系统实施强制性关闭开关；以及禁止具有自我复制、自主改进或抗拒关机能力的架构。

该宣言的发布恰逢五角大楼与Anthropic之间的争端，凸显了国会不作为的巨大代价。组织者Max Tegmark认为，关注儿童安全——强制对人工智能产品进行部署前测试，以防范情感操纵等风险——最有可能成为推动监管变革的突破口，随后该范围将不可避免地扩大到涵盖生存风险。该联盟的广泛支持，包括从Steve Bannon到Susan Rice等各界人士，强调了人类在控制人工智能发展轨迹上的一致利益。

(来源：TechCrunch)