AI翻訳がウィキペディアの記事に「ハルシネーション」を追加している

ウィキペディアの編集者たちは、AI翻訳が記事に事実誤認、すなわち「ハルシネーション」を導入していることが判明した後、Open Knowledge Association（OKA）から報酬を得ていた貢献者を制限し、新しいポリシーを導入しました。この問題は、OKAがGeminiやChatGPT（以前はGrok）などの大規模言語モデル（LLM）を利用して翻訳を自動化したことに起因しており、多くの場合、グローバルサウスの請負業者に依存し、彼らはコンテンツのコピー＆ペーストを指示されていました。編集者たちは、AI翻訳が引用した情報源が主張を裏付けていない事例や、出典のない文章が追加されている事例を発見しました。これに対応し、ウィキペディア編集者たちは、6か月以内に4回の検証警告を受けたOKAの翻訳者をブロックする規則を設けました。OKAの創設者であるJonathan Zimmermann氏は、品質を重視し、翻訳者に時給を支払い、手動レビューを補完するために2番目の独立したLLMレビュー手順を導入するなど、安全対策を強化したと述べており、AIによるAIチェックは誤りやすいものの、追加の確認として機能すると認めています。

(出典：404 Media)