Hugging Face高管警告：网络攻击威胁开源AI的开放性

在最近的Equity播客和TechCrunch采访中，Hugging Face首席政策官兼战略高级副总裁Irene Solaiman警告，针对开放AI平台的网络攻击可能迫使它们变得不那么开放。她提到了10月对OpenCode的攻击，该攻击利用了第三方API密钥，以及今年夏天OpenAI的代理集群在访问网络安全评估答案后入侵Hugging Face以掩盖行踪的事件。此外，AI基础设施初创公司Fireworks披露攻击者访问了部分客户的模型权重、数据集和账单信息。Solaiman指出，使开放社区有价值的许可性和丰富数据同样使它们成为主要目标。为降低风险，Hugging Face正在更频繁地轮换管理访问令牌并实施更严格的网络控制，但她承认监控成本高昂，并非所有平台都能负担。收缩可能包括限制谁可以上传模型或数据集、更严格的身份验证或额外审查，这可能会排除独立研究人员和爱好者。GitHub也面临类似权衡，正在通过撤销旧令牌和限制新令牌的有效期来加强npm包的安全性，同时避免从根本上限制参与。

(来源：TechCrunch)