OpenAI、EUでChatGPTのテキストに電子透かしを開始へ
概要
OpenAIは、EUのAI法に準拠するため、ChatGPTとCodexが生成するテキストに不可視の電子透かしをEUで追加すると発表した。EU AI法の透明性ルールは8月2日に発効した。電子透かしは今後数週間でEUの全プランの対象ユーザーに展開され、世界中のOpenAI API開発者は本日から一部モデルで有効にできるが、デフォルトではオフになっている。電子透かしは目に見える記号ではなく、モデルの語彙選択を微妙に調整し、読者には見えないが検出器が認識できるパターンを残す。コピー＆ペーストしてもテキストとともに移動し、ユーザーを特定せず、モデルの性能にも有意な変化はないという。OpenAIはUniversity of PennsylvaniaとYaleの研究者と共同で執筆したtextGrainという技術報告書も公開した。テストでは、編集により透かしが弱まる可能性が示され、単語の10%を同義語に置き換えると検出率が約92%から66%に低下し、短い文章、数学の回答、翻訳文は検出が難しい。OpenAIは初期の検出器アクセスを承認された研究者と専門機関のみに限定し、透かしの欠如は人間の著作を証明しないと警告した。この発表は、AnthropicがClaudeのテキストに世界的に電子透かしを導入すると発表してから2か月後に行われ、OpenAIは以前、ユーザーが透かしを入れない競合に移る懸念からリリースを見送っていた。Anthropic、Google、Meta、Microsoft、OpenAIなどは、AI生成コンテンツに関するEUの行動規範に従うことを約束している。
(出典：TechCrunch)