OpenAI 如何在人工智能监控问题上向五角大楼屈服
内容摘要
OpenAI 首席执行官 Sam Altman 宣布与五角大楼达成新协议，他声称该协议维护了禁止大规模监控和致命自主武器的安全原则，这与 Anthropic 拒绝在这些“红线”上妥协形成对比。然而，消息人士指出，OpenAI 的协议要软弱得多，其核心是“任何合法用途”这一短语，这实际上允许军方使用 OpenAI 的技术进行被视为技术上合法的活动，包括过去和潜在的大规模监控计划，这些计划依赖于扩大法律定义。
批评人士，包括 OpenAI 前政策研究主管 Miles Brundage，暗示 OpenAI“屈服了”并将其描绘成胜利，这可能损害了 Anthropic，后者随后被五角大楼列为供应链风险。OpenAI 发言人 Kate Waters 否认该协议允许对美国人进行大规模、开放式监控，并援引遵守现有法律，如第四修正案和 FISA。然而，法律专家指出，这些相同的授权曾被用来证明爱德华·斯诺登揭露的大规模监控行动的合法性。
在致命自主武器方面，该协议同样薄弱；它只要求在法律或政策要求时进行人工控制，与 Anthropic 寻求在技术可靠之前完全禁止的立场不同。尽管 OpenAI 声称分类器和纯云部署等技术保障措施将执行其红线，但消息人士认为这些措施不足以监督合规性或阻止技术为致命打击前的“自主杀伤链”提供动力，特别是由于协议默认允许政府认为合法的任何用途。
(来源：The Verge)