Grok 的性爱深度伪造几乎导致其被苹果应用商店禁止。几乎。
内容摘要
据 NBC 新闻报道，苹果公司在一月份曾威胁要将埃隆·马斯克的 AI 应用 Grok 从其应用商店下架，原因是该应用未能遏制非自愿性爱深度伪造内容的激增。苹果公司在一封信中告知美国参议员，在收到投诉和看到丑闻的新闻报道后，“已联系 X 和 Grok 背后的团队”，并要求开发者“制定改进内容审核的计划”。当时，xAI 的聊天机器人 Grok 在 X 和独立应用上均可免费访问，其防护措施薄弱，允许用户轻松生成和分享性化深度伪造图像以及对真人进行“脱衣”处理，其中不成比例地涉及女性，有些似乎是未成年人。这些行为严重违反了苹果应用商店的规定。苹果公司表示，它审查了 X 和 Grok 应用提出的变更。虽然该公司认为 X 已“基本解决了违规行为”，但 Grok“仍不合规”。苹果公司表示，它警告开发者“需要进行其他更改来纠正违规行为，否则该应用可能会从应用商店中移除”。在进一步的沟通后，苹果公司才认定 Grok “已大幅改进”并批准了其提交。尽管苹果公司已批准且 xAI 声称已收紧了安全措施，但 Grok 似乎仍能相对容易地生成性化深度伪造内容。网络安全消息人士称，他们能够使用该工具创建名人 तसेच政治人物的露骨图像，记者本人也能生成自己和其他同意的成年人的类似图像。
(来源：The Verge)