Meta 的深度伪造内容审核不够好,监督委员会表示

The Verge
Meta 监督委员会敦促该公司改革其人工智能内容审核,因为深度伪造检测不足。

内容摘要

Meta 监督委员会呼吁 Meta 彻底改革其在 Facebook、Instagram 和 Threads 上识别和标记人工智能生成内容的方法,称现有系统“不够稳健或全面”。此项建议是在调查了一段与以色列冲突相关的虚假人工智能视频后提出的,鉴于中东目前“大规模军事升级”,这一点尤为关键。委员会发现,Meta 的系统过度依赖自我披露和升级审查,未能适应在线环境的现实,尤其是在跨平台传播方面。建议的步骤包括改进有关错误信息(misinformation)的现有规则、为人工智能内容建立单独的标准、开发更好的检测工具、提高对违反人工智能政策的处罚透明度,以及扩大人工智能内容标记工作,特别是确保添加“高风险人工智能”(High-Risk AI)标签和更好地采用内容凭证(C2PA)。

(来源:The Verge)