OpenAI、ChatGPTとCodexにテキスト透かしを導入

OpenAIは、ChatGPTとCodexのテキスト出力に「textGrain」と呼ばれる不可視で機械可読な透かしを導入する。この機能はまず欧州連合（EU）のユーザーを対象に、すべてのプランで今後数週間かけて展開され、開始時点で世界全体のデフォルトにはならない。地域限定で始めることで、実際の利用とフィードバックから学ぶ余地を確保する狙いだ。OpenAIは、textGrainがGoogle DeepMindのテキスト向けSynthIDなど他の手法に「匹敵するか上回った」と主張している。Anthropicが8月に発表した透かしも同手法を基盤としている。AnthropicもOpenAIと同様、EUのAI法の要件を満たすためにこの措置を取った。

OpenAIはまた、透かし入りテキストと透かしなしテキストの性能が同程度であることを示すAIベンチマークのスコアも公表した。ただし、textGrainは「信頼できる検出を保証するものではない」と注意を促し、テキスト透かしは正確性の検証、テキストの所有権の特定、人間の寄与度の測定、人間による著作の証明を行わないと述べている。EUでの展開に加え、世界中のAPI顧客は本日から一部モデルで透かし入りテキスト出力をオプトインできる。これにより顧客は、透かしを自らの透明性義務やユーザーに提供する体験にどう適合させるかを判断できる。OpenAIはまた、クラウドパートナーと協力し、今後数週間で同社サービス経由でアクセスされるOpenAIモデル出力にも透かしを利用可能にする予定だ。

承認された研究者や専門機関は本日から検出ツールへのアクセスを申請できる。行動規範に従い、アクセスはまずケースバイケースで付与され、テキストの来歴の評価と改善を支援する。ツールはOpenAIの透かしを検出したかどうかを報告するが、ユーザーを特定したり、プロンプトや会話を明かしたりはしない。透かしの検出漏れや誤検知のリスクがあるため、OpenAIは開始時点で検出ツールを公開しない。

(出典：The Verge)