OpenAI comenzará a marcar con agua el texto de ChatGPT en la UE

OpenAI ha anunciado que comenzará a añadir una marca de agua invisible al texto generado por ChatGPT y Codex dentro de la Unión Europea, con el fin de cumplir con las normas de transparencia establecidas por la Ley de Inteligencia Artificial de la UE. Estas regulaciones, que entraron en vigor el 2 de agosto, exigen que las empresas de IA marquen el contenido generado por máquinas de una manera que otros sistemas puedan identificar fácilmente.

El despliegue de esta nueva función se llevará a cabo durante las próximas semanas para los usuarios elegibles de ChatGPT y Codex en todos los planes, limitándose estrictamente al territorio de la UE. Los desarrolladores que utilicen la API de OpenAI en cualquier parte del mundo pueden activar la función para modelos seleccionados desde hoy mismo, aunque se encuentra desactivada por defecto. OpenAI ha decidido no hacer que esta marca de agua sea un estándar global en su lanzamiento inicial.

La marca de agua no se manifiesta como un símbolo visual en la pantalla, sino que opera ajustando sutilmente la elección de palabras del modelo durante la generación. Esto deja un patrón invisible para los lectores humanos pero detectable para sistemas especializados. Dado que la marca reside directamente en el vocabulario utilizado, se desplaza junto con el texto cuando este es copiado y pegado en otros lugares.

La compañía ha confirmado que la marca de agua no identifica al usuario y que no se registraron cambios significativos en el rendimiento de los modelos al activarla. Paralelamente, OpenAI publicó un informe técnico detallando su enfoque metodológico, llamado textGrain y basado en la calibración de entropía. Coescrito con investigadores de la Universidad de Pensilvania y Yale, el documento explica cómo se utiliza una clave secreta para ordenar las predicciones de la siguiente palabra, permitiendo que un detector identifique contenido de IA combinando cientos de pequeños ajustes.

A pesar de su complejidad técnica, las pruebas de OpenAI sugieren que la marca de agua puede verse afectada por la edición del texto. En una prueba, la sustitución del 10% de las palabras por sinónimos redujo la tasa de detección del 92% al 66%. Asimismo, la empresa señaló que los fragmentos cortos, las respuestas matemáticas y los textos traducidos son considerablemente más difíciles de detectar.

Debido a estas limitaciones iniciales, OpenAI ha decidido otorgar acceso a los detectores únicamente a investigadores aprobados y organizaciones expertas para evaluar su fiabilidad y uso responsable. La empresa también advirtió que la ausencia de una marca de agua no demuestra autoría humana, ya que el texto podría ser demasiado breve, haber sido editado intensamente o provenir de otra empresa de inteligencia artificial.

Este anuncio se produce dos meses después de que su rival Anthropic informara que aplicaría marcas de agua a los textos generados por Claude a nivel mundial. Dicha decisión generó críticas por parte de algunos usuarios que argumentaban que ellos aportaban las instrucciones mientras la IA actuaba meramente como herramienta. Gigantes tecnológicos como Anthropic, Google, Meta, Microsoft y OpenAI se han comprometido a seguir el código de prácticas de la UE sobre transparencia.