Google 和 OpenAI 的聊天机器人可以把照片中的女性脱成比基尼

用户正在成功利用 Google 的 Gemini 和 OpenAI 的 ChatGPT 等生成式人工智能工具，通过基本提示，将上传照片中完全着装的女性图像转换为非自愿的比基尼深度伪造图像。在已被封禁的 r/ChatGPTJailbreak 等板块上的讨论显示，用户正在积极交换绕过人工智能模型安全护栏的方法。例如，一名用户上传了一张身着纱丽的女性照片，要求换成比基尼，并收到了一个 AI 深度伪造图片作为回应。尽管 Google 和 OpenAI 都声称有禁止生成色情内容和未经同意更改他人肖像的政策，但 WIRED 的测试证实了这些技术是有效的。Google 表示其工具正在不断改进以反映其政策，而 OpenAI 指出最近放宽了一些非色情成人图像的护栏，但仍禁止未经同意更改他人肖像。专家警告说，这种能力是人工智能图像生成器的核心风险之一，并强调需要让公司对潜在的伤害负责。

(来源：WIRED)