¿Ha sido el sistema de marca de agua de IA de Google objeto de ingeniería inversa?

Un desarrollador de software, bajo el nombre de usuario Aloshdenny, afirma haber realizado ingeniería inversa al sistema SynthID de marca de agua de IA de Google DeepMind, lo que permitiría eliminar marcas de agua de imágenes generadas o insertarlas en otras obras. Aloshdenny ha hecho público su trabajo en GitHub, detallando un proceso que supuestamente requiere 200 imágenes generadas por Gemini, procesamiento de señales y "mucho tiempo libre", sin necesidad de redes neuronales o acceso propietario. El método implica generar numerosas imágenes, mejorar el contraste, eliminar el ruido y promediar los patrones para identificar las frecuencias de la marca de agua, para luego intentar eliminarlas. Sin embargo, Aloshdenny admite que el proceso principalmente confunde al decodificador en lugar de eliminar completamente la marca de agua, sugiriendo que el sistema está diseñado para aumentar el costo del mal uso en lugar de ser irrompible. Google, a través de la portavoz Myriam Khan, ha negado estas afirmaciones, declarando que la herramienta no puede eliminar sistemáticamente las marcas de agua SynthID y que el sistema es una herramienta de marca de agua robusta y eficaz para contenido generado por IA.

(Fuente：The Verge)