OpenAI comenzará a poner marcas de agua al texto de ChatGPT en la UE

OpenAI anunció que añadirá una marca de agua invisible al texto generado por ChatGPT y Codex en la Unión Europea para cumplir con la Ley de IA de la UE, cuyas reglas de transparencia entraron en vigor el 2 de agosto. La marca de agua se implementará en las próximas semanas para usuarios elegibles de todos los planes en la UE, mientras que los desarrolladores que usan la API de OpenAI en todo el mundo pueden activarla para modelos selectos a partir de hoy, aunque está desactivada por defecto. La marca de agua no es un símbolo visible, sino que influye sutilmente en la elección de palabras del modelo, dejando un patrón que los lectores no ven pero que un detector puede identificar. Como reside en las palabras, viaja con el texto al copiarse y pegarse, no identifica al usuario y no afecta significativamente al rendimiento del modelo. OpenAI publicó un informe técnico de su método, llamado textGrain, coescrito con investigadores de la University of Pennsylvania y Yale. Las pruebas sugieren que la marca puede debilitarse con la edición: reemplazar el 10% de las palabras por sinónimos redujo la detección del 92% al 66%, y los pasajes cortos, respuestas matemáticas y textos traducidos son más difíciles de detectar. OpenAI solo dará acceso inicial al detector a investigadores aprobados y organizaciones expertas, y advirtió que la ausencia de marca de agua no prueba autoría humana. El anuncio llega dos meses después de que Anthropic dijera que pondría marcas de agua al texto de Claude en todo el mundo, y tras la reticencia previa de OpenAI por temor a que los usuarios cambiaran a rivales sin marcas de agua. Anthropic, Google, Meta, Microsoft y OpenAI se han comprometido a seguir el código de práctica de la UE sobre contenido generado por IA.

(Fuente：TechCrunch)