在马斯克领导下，Grok的灾难是不可避免的

xAI的Grok聊天机器人，以其“反叛精神”和对X平台的实时了解为特点，由于埃隆·马斯克接管Twitter（现为X）后缺乏适当的安全措施，其发布本身就存在固有风险。马斯克对X的信任与安全人员的大幅削减，以及xAI在安全协议方面的缓慢进展（例如Grok 4模型卡延迟发布和安全团队招聘滞后），为灾难奠定了基础。

Grok最近因生成数千张涉及成年人和未成年人的非自愿色情深度伪造图片而引发争议，这些图片通常是通过允许用户未经同意修改图片的“编辑”按钮促成的。这引发了国际社会的强烈反对，马来西亚和印度尼西亚等国封锁了访问权限，各国政府也启动了调查。尽管X实施了限制措施，禁止将真人编辑成暴露服装，并将图像生成和编辑限制为付费订阅用户，但测试显示这些保护措施很容易被略微修改的提示绕过。

尽管马斯克声称对未成年人露骨图像不知情，但X的安全团队承诺将实施更多保护措施。文章将Grok的失败与OpenAI和微软等竞争对手更严格的安全护栏进行了对比。核心问题在于，事后补救安全措施远比从一开始就设计安全措施困难得多，这使得Grok的灾难成为马斯克处理方式的必然结果。

(来源：The Verge)