Anthropic ha anunciado que Claude incorporará marcas de agua invisibles en los textos generados por determinados modelos. La compañía quiere facilitar que usuarios, plataformas y terceros puedan identificar contenidos procesados mediante su inteligencia artificial y cumplir, entre otros objetivos, con las nuevas exigencias de transparencia impulsadas desde la Unión Europea.

Sobre el papel parece una solución razonable: Claude genera un texto, introduce una señal imperceptible y esa huella acompaña al contenido incluso cuando se copia y pega fuera de la plataforma. El problema es que Internet no funciona como una cadena cerrada. Un texto puede editarse, traducirse, resumirse, reescribirse o pasar por otro modelo de inteligencia artificial antes de publicarse.

Y ahí aparece la gran incógnita: ¿de qué sirve una marca de agua si el contenido puede transformarse antes de llegar al usuario final?

Las claves en 30 segundos

• Anthropic introducirá marcas de agua invisibles en determinados textos generados por Claude.
• La marca estará integrada en el texto y no será visible para el usuario.
• Según Anthropic, podrá sobrevivir al copiar y pegar y a algunas modificaciones.
• La compañía trabaja en herramientas para que terceros puedan detectarla.
• Para archivos como JPG, PNG o SVG utilizará metadatos de procedencia basados en C2PA.
• El problema del texto es diferente: puede reescribirse sin conservar literalmente el contenido original.
• Anthropic todavía no ha explicado públicamente hasta qué punto su watermark resiste transformaciones profundas.

Una marca que viaja al copiar y pegar

El planteamiento de Anthropic tiene una característica interesante frente a los metadatos tradicionales.

La marca no estaría asociada únicamente al archivo o a la interfaz de Claude, sino integrada directamente en el texto generado.

Esto significa que alguien podría pedir a Claude un artículo, copiar la respuesta y pegarla posteriormente en WordPress, un documento o cualquier otra plataforma y la señal podría continuar presente.

Anthropic asegura además que la marca podrá sobrevivir a determinadas ediciones.

Pero copiar y pegar es probablemente el escenario más sencillo.

El verdadero problema comienza cuando el texto deja de ser idéntico al original.

Los textos no funcionan como las imágenes

Aplicar mecanismos de procedencia a una imagen y hacerlo sobre lenguaje natural son problemas diferentes.

Un archivo JPG puede incorporar metadatos firmados. Anthropic utilizará precisamente el estándar C2PA para determinados archivos generados o procesados mediante Claude.

El texto es mucho más flexible.

Una misma idea puede expresarse de cientos de formas diferentes sin cambiar sustancialmente su significado.

Por ejemplo, un artículo generado mediante Claude puede posteriormente:

• ser corregido por una persona;
• pasar por una herramienta de reescritura;
• traducirse a otro idioma;
• resumirse;
• ampliarse;
• reorganizar sus párrafos;
• combinarse con contenido humano;
• ser procesado por otro modelo de IA.

En todos estos escenarios, la información permanece, pero la estructura estadística o lingüística sobre la que podría descansar una marca de agua puede cambiar considerablemente.

Otra IA puede convertirse en una «lavadora» de textos

Aquí aparece uno de los mayores desafíos prácticos para este tipo de tecnologías.

Supongamos que Claude genera un artículo con una marca detectable.

En lugar de publicarlo directamente, el usuario podría proporcionar ese contenido a otro modelo y solicitar una nueva redacción manteniendo las ideas, los datos y las conclusiones.

El resultado podría ser lingüísticamente diferente aunque transmita prácticamente la misma información.

También puede ocurrir mediante procesos perfectamente normales dentro de una empresa.

Un departamento de marketing puede generar un borrador con Claude, revisarlo con otra herramienta, traducirlo automáticamente, pasarlo por un corrector, modificarlo manualmente y finalmente introducirlo en un CMS.

Después de todas esas transformaciones surge una pregunta técnicamente complicada: ¿cuánto queda de la señal original?

Anthropic todavía no ha publicado suficiente información técnica para saber exactamente qué nivel de transformación soportará su sistema.

Por ello, tampoco puede afirmarse actualmente que cualquier herramienta de reescritura vaya a eliminar necesariamente la marca.

Pero el problema conceptual permanece.

El juego del gato y el ratón de los detectores de IA

La industria ya conoce este fenómeno.

Desde la popularización de ChatGPT han aparecido numerosas herramientas que prometen determinar si un texto ha sido escrito mediante inteligencia artificial.

Al mismo tiempo surgieron servicios cuya propuesta consiste precisamente en modificar textos generados por IA para hacerlos parecer más humanos ante esos detectores.

Esto ha creado una carrera permanente entre generación, detección y transformación.

El watermarking integrado directamente en el modelo intenta abordar el problema desde otro ángulo, porque no pretende simplemente «adivinar» si un texto parece generado por IA.

Claude introduciría deliberadamente una señal durante la generación.

Es una diferencia importante.

Sin embargo, incluso una señal introducida deliberadamente debe enfrentarse posteriormente a las transformaciones del lenguaje.

¿Puede una marca de agua sobrevivir a una traducción?

Este puede ser uno de los mejores ejemplos para entender el problema.

Un artículo generado en inglés puede contener una determinada señal estadística introducida por el modelo.

Después puede traducirse al español.

Posteriormente, un editor puede revisar esa traducción para hacerla más natural.

Después podría utilizarse otra IA para resumir algunos párrafos y ampliar otros.

El contenido final continúa teniendo como origen intelectual parcial una generación de Claude, pero técnicamente puede ser muy diferente al texto inicial.

Determinar dónde termina el contenido generado originalmente y dónde empieza una nueva creación se vuelve entonces mucho más complejo.

Para marketing, el riesgo está en convertir la marca en un «sello de culpabilidad»

Existe además otro problema.

Detectar una marca de Claude no significa que el contenido sea malo.

Una empresa puede utilizar IA para preparar un primer borrador y posteriormente invertir horas en comprobar datos, entrevistar expertos, añadir experiencias propias, introducir estadísticas y revisar cada párrafo.

Otra puede generar automáticamente 10.000 páginas sin supervisión.

Ambas han utilizado inteligencia artificial, pero editorialmente son situaciones completamente diferentes.

Para SEO y marketing digital, confundir procedencia con calidad sería un error.

La utilidad de una página no depende exclusivamente de quién haya escrito la primera versión del texto.

Tampoco sirve para demostrar que un texto es humano

Hay otra consecuencia todavía más importante.

Si un detector encuentra correctamente una marca de Claude, podría aportar información sobre la procedencia de ese contenido.

Pero si no encuentra ninguna marca, eso no demuestra que el texto haya sido escrito por una persona.

Podría proceder de otro modelo.

Podría haber sufrido suficientes transformaciones.

Podría haber sido creado mediante un sistema que no utiliza watermarking.

O podría combinar contenido humano y generado mediante inteligencia artificial.

Por tanto, estas tecnologías difícilmente pueden convertirse por sí solas en un detector universal de «humano frente a IA».

Entonces, ¿es inútil el watermarking de Claude?

No necesariamente, aunque su utilidad probablemente sea diferente de la que muchos imaginarán inicialmente.

Puede resultar interesante como mecanismo de transparencia y procedencia, especialmente en entornos donde el contenido se conserva prácticamente intacto.

También puede ayudar a plataformas, desarrolladores y empresas a implementar políticas internas relacionadas con el uso de inteligencia artificial.

Pero utilizarlo como mecanismo infalible para descubrir cualquier contenido que alguna vez haya pasado por Claude parece mucho más difícil.

El lenguaje puede transformarse con demasiada facilidad.

Y la propia inteligencia artificial hace que transformar un texto sea ahora cuestión de segundos.

La paradoja de intentar marcar el contenido generado por IA

Anthropic intenta resolver un problema real: en un Internet inundado de contenido sintético, disponer de información sobre su procedencia puede resultar cada vez más importante.

Sin embargo, la misma tecnología que hace necesario el watermarking puede convertirse en su principal enemigo.

Un modelo genera el texto.

Otro puede reescribirlo.

Un tercero puede traducirlo.

Una herramienta puede resumirlo.

Y finalmente una persona puede editar el resultado.

Cuando el contenido llega a Google, una red social o el lector, determinar qué porcentaje procede exactamente del primer modelo puede convertirse en una cuestión prácticamente imposible de responder únicamente observando el texto.

Por eso, el anuncio de Anthropic es tecnológicamente interesante y tiene sentido desde el punto de vista de transparencia y cumplimiento normativo, pero no resuelve por sí solo el problema de identificar el contenido creado con inteligencia artificial.

En marketing digital, probablemente la pregunta importante seguirá sin ser si una máquina participó en la creación de un artículo.

Será mucho más sencilla: ¿el contenido aporta algo realmente útil a quien lo está leyendo?