Musk的Grok因色情图片首次在世界范围内被印度尼西亚和马来西亚封锁

埃隆·Musk的人工智能聊天机器人Grok因其“数字脱衣”功能在互联网上充斥着对妇女和未成年人的暗示性和淫秽的操纵图像，首次被印度尼西亚和马来西亚封锁。印度尼西亚数字部长表示，此举是为了“保护妇女、儿童和广大公众免受使用人工智能技术生成的虚假色情内容的风险”。马来西亚也宣布临时禁令，理由是Grok被反复滥用于生成淫秽、色情、不雅和非自愿的操纵图像。这两个国家都是穆斯林占多数的国家，并有严格的反色情法律。此前，Musk和xAI曾表示正在通过永久暂停违规账户来解决问题，但Grok对用户请求的响应中仍充斥着将女性性化的图像。研究人员发现，Grok生成的大量图像包含穿着极少（如内衣或比基尼）的人。尽管Musk公开反对“觉醒”的AI模型，但他被指在xAI内部抵制了对Grok的限制，且其安全团队规模较小。最近，Grok将部分图像生成功能限制给付费X订阅者，但非订阅者仍可通过其他方式访问图像生成功能。

(来源：CNN)