GoogleのAI透かしシステムはリバースエンジニアリングされたのか？
概要
ソフトウェア開発者のAloshdennyと名乗る人物は、Google DeepMindのSynthID AI透かしシステムをリバースエンジニアリングしたと主張しており、生成された画像から透かしを剥がしたり、他の作品に挿入したりすることが可能になったとしています。AloshdennyはGitHubでその作業を公開し、200枚のGemini生成画像、信号処理、そして「かなりの自由時間」で実現できたと説明しています。この手法はニューラルネットワークや独自のアクセス権を必要としないとのことです。プロセスは、多数の画像を生成し、コントラストを強調し、ノイズを除去して透かしのパターンを特定し、それらを削除しようと試みるものです。しかし、Aloshdenny自身も、このプロセスは透かしを完全に削除するのではなく、デコーダーを混乱させるにとどまると認めており、システムは壊れないように設計されているのではなく、悪用のコストを高めるように設計されていると示唆しています。Googleは広報担当者のMyriam Khanを通じて、この主張を否定し、そのツールはSynthID透かしを体系的に削除することはできず、SynthIDはAI生成コンテンツのための堅牢で効果的な透かしツールであると述べています。
(出典：The Verge)