Meta雇佣数百名合同工冒充青少年,用令人不安的内容轰炸其竞争对手的AI

Yahoo News
Meta通过合同工冒充青少年向竞争对手的AI发送极端测试指令,并将其美化为安全基准测试。

内容摘要

Meta进行了一项名为“Cannes”的秘密项目,雇佣数百名合同工通过虚假账号伪装成青少年,向OpenAI的ChatGPT、Google的Gemini等竞争对手的AI模型发送涉及自杀、自残及非法行为等令人不安的提示词。Meta声称此举旨在测试AI模型的安全防线,但该计划在未告知竞争对手的情况下秘密进行。批评人士指出,这种利用虚拟未成年账号测试的做法远超行业标准,可能存在以安全为掩护进行不正当竞争的嫌疑。

(来源:Yahoo News)