OpenAI añade marcas de agua de texto en ChatGPT y Codex

OpenAI está introduciendo una marca de agua invisible y legible por máquina llamada textGrain en la salida de texto de ChatGPT y Codex. La función se implementará inicialmente solo para usuarios de la Unión Europea, en todos los planes, durante las próximas semanas; no será una opción predeterminada global en su lanzamiento. Este enfoque regional busca permitir que OpenAI aprenda del uso real y los comentarios antes de una implementación más amplia. OpenAI afirma que textGrain igualó o superó otros enfoques como SynthID de texto de Google DeepMind, que también es la base de la marca de agua que Anthropic anunció en agosto; Anthropic, al igual que OpenAI, tomó esta medida para cumplir con los requisitos de la Ley de IA de la UE.

OpenAI también publicó puntuaciones de benchmarks de IA que muestran un rendimiento similar entre texto con y sin marca de agua. Sin embargo, señala que textGrain "no garantiza una detección fiable" y que las marcas de agua de texto no verifican la precisión, no determinan quién posee el texto, no miden cuánta contribución humana hubo ni prueban autoría humana. Además del despliegue en la UE, los clientes de la API en todo el mundo podrán optar desde hoy por salidas de texto con marca de agua en modelos seleccionados, lo que les permite decidir cómo encaja la marca de agua en sus obligaciones de transparencia y en las experiencias que ofrecen a los usuarios. OpenAI también está trabajando con socios de la nube para que la marca de agua esté disponible en las salidas de modelos de OpenAI a las que se accede a través de sus servicios en las próximas semanas.

Los investigadores y organizaciones expertas aprobadas pueden solicitar acceso a la herramienta de detección a partir de hoy. De acuerdo con el Código de Prácticas, el acceso se concederá inicialmente caso por caso para apoyar la evaluación y mejora de la procedencia del texto. La herramienta informará si detecta una marca de agua de OpenAI, sin identificar al usuario ni revelar sus prompts o conversaciones. Dado el riesgo de marcas de agua no detectadas y falsos positivos, OpenAI no pondrá la herramienta a disposición del público en su lanzamiento.

(Fuente：The Verge)