性感的AI驱动约会应用骗局已经出现

一个由至少28个约会应用（如Dora、Romi和Kira）组成的复杂诈骗网络被揭露。该行动被归咎于一个中国演员，其利用AI（包括Anthropic的Claude）大规模运行逼真的女性自主角色，与用户（主要是30多岁的男性）聊天。这些AI驱动的对话是骗局的核心。为维持现实假象，该网络雇佣了少量兼职工人进行视频真人验证和最低限度互动。用户随后被诱骗使用真钱购买应用内代币以继续对话，却不知自己主要在与机器人互动。这些应用伪装成合法的约会平台，明确承诺与“真人”建立联系。它们在应用商店审核期间故意表现正常，之后才启用代币计量和AI网络以逃避审查。安全研究员Matthew“Zigula”Gore-Kormanik发现的内部文件详细描述了该行动的机制，包括监控兼职工人以及使用腾讯云和字节跳动的服务。Anthropic通过异常API活动发现了滥用行为，并利用一个独特的语法错误作为指纹追踪了整个网络。尽管许多应用已被应用商店下架，但有些仍然活跃，这凸显了跨行业协作对抗此类可扩展、技术娴熟的欺诈行为的挑战。

(来源：The Verge)