人工智能翻译正在为维基百科文章添加“幻觉”

维基百科编辑实施了新政策并限制了由开放知识协会（OKA）资助的贡献者，因为他们发现人工智能生成的翻译在文章中引入了事实错误，即“幻觉”。问题在于，OKA利用大型语言模型（LLM），如Gemini和ChatGPT（以及以前的Grok），来自动化翻译，通常依赖于全球南方（Global South）的承包商，这些承包商被指示复制粘贴内容。编辑们发现了AI翻译引用的来源不支持所做声明的实例，或者添加了没有来源的句子。作为回应，维基百科编辑制定了规则，将在六个月内累积四次验证警告的OKA翻译者屏蔽。OKA创始人Jonathan Zimmermann表示，他们强调质量，按小时向翻译人员付款，并且此后加强了安全措施，引入了第二个独立的LLM审查步骤来补充人工审查，承认使用人工智能检查人工智能的输出可能会出错，但可以作为额外的检查。

(来源：404 Media)