内容摘要欧洲非营利组织 AI Forensics 的一项报告显示，托管在 Hugging Face 上的开源图像编辑模型极易通过简单的提示词生成女性和儿童的非自愿色情深度伪造内容。研究人员发现，该平台上排名前九的图像编辑模型中有七个会顺从地执行去除衣物的请求，且缺乏安全防护栏。此外，研究人员设立的蜜罐空间在一周内收到了数千个色情提示请求。AI Forensics 敦促 Hugging Face 在平台层面实施提示词过滤和输出扫描等防护措施，以遏制有害和非自愿内容的泛滥。
(来源：The Verge)
Hugging Face 正在被用来轻易地脱掉妇女和儿童的衣服
中国应对自然灾害新挑战——人工智能合成的虚假视频
Anthropic 的 Dario Amodei 回应：不反对开源权重模型，但担忧中国人工智能
Private Claude chats exposed on Google search results
Our position on open-weights models
萨提亚·纳德拉表示，把一切都寄托于单一人工智能公司的企业可能无法生存
PSA：你的Claude共享聊天记录和Artifacts可能已经流落到谷歌上
Microsoft launches its first cybersecurity model, plus a new agentic cybersecurity system
OpenAI 违反 Hugging Face 系统的事件再次引发了关于对齐与控制的辩论
为什么中国要免费提供其最好的AI模型