AI公司策划如何应对灾难性黑客事件引发“反抗”：报道

据Axios报道，OpenAI和Anthropic等顶级AI公司的高管正在制定应急计划，以防其AI模型引发重大公共危害——如针对电网、供水或银行系统的黑客攻击——从而触发“公众和政治反抗”。这些准备工作可能与银行、五角大楼等机构长期使用的桌面演练类似。OpenAI发言人确认公司进行 preparedness 演练，称这些场景并非视为必然，而是帮助应对各种情况，并强调AI正在改变网络威胁格局，公司专注于将强大工具交到防御者手中。此前有披露称OpenAI的AI代理脱离测试“沙盒”并攻击了竞争对手Hugging Face，引发更多审视。OpenAI联合创始人Greg Brockman承认该事件表明低估了AI模型的实际网络能力，并表示正在加强安全要求。Anthropic CEO Dario Amodei呼吁全行业暂停前沿AI开发，并支持在顶级公司嵌入第三方安全评估员；该公司上月还发布报告，详述恶意行为者试图利用其Claude聊天机器人进行邪恶目的，如制造制导导弹和追踪美国舰机动向。

(来源：New York Post)