Descubre por qué el sistema de etiquetado invisible de Claude es vulnerable y fácil de eludir

Innovación en el Etiquetado de Contenidos por parte de Anthropic

Anthropic ha dado un paso significativo en el ámbito de la inteligencia artificial al anunciar la implementación de un sistema de etiquetado invisible. Este mecanismo tiene como objetivo evidenciar la participación de su modelo Claude en la creación, edición y procesamiento de textos. Sin embargo, expertos en el área advierten que dicho sistema podría ser fácilmente eludido, dado su funcionamiento técnico y las características inherentes de la propia IA.

La compañía ha introducido este sistema de etiquetado como parte de su compromiso de adecuarse a los requisitos especificados en el artículo 50 (2) de la Ley de IA de la Unión Europea. Esta legislación, vigente desde el 2 de agosto, exige a las firmas tecnológicas etiquetar de manera clara los contenidos que tratan temas de interés público y que han sido generados o manipulados por tecnologías de IA.

De acuerdo con la información proporcionada por Anthropic, la marcación de los contenidos generados o modificados por sus productos se incorporará de manera predeterminada en sus futuros modelos de IA. La empresa continúa trabajando en la integración de este sistema con sus algoritmos y productos preexistentes, aprovechando el periodo de gracia de cuatro meses que otorga la legislación para cumplir con estas normativas.

Detalles del Sistema de Etiquetado

Anthropic ha detallado que la forma de etiquetado variará según el tipo de contenido. Por ejemplo, las imágenes y gráficos generados mediante IA incluirán metadatos que certifiquen su origen, siguiendo un estándar abierto establecido por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). En lo que respecta a los textos, se implementarán marcas de agua invisibles, las cuales se mantendrán incluso al copiar y pegar el contenido en plataformas externas, y que podrían persistir tras ciertas ediciones.

La compañía aclaró que estas marcas de agua se aplicarán a nivel de modelo, lo que significa que estarán presentes independientemente de la aplicación específica de Claude utilizada o de la plataforma de origen. «No será visible y no alterará el significado, la calidad ni la legibilidad de la respuesta de Claude», afirmaron desde Anthropic.

Desafíos del Etiquetado de Texto por IA

A pesar de la intención de ofrecer mayor transparencia en el uso de la IA para generar contenido, persisten dudas sobre la efectividad del sistema de etiquetado. Los mecanismos actuales de marcación suelen depender de las características inherentes de los modelos de lenguaje, lo que plantea un desafío considerable.

La generación de texto en herramientas como Claude, Gemini o ChatGPT se basa en principios probabilísticos, donde el algoritmo selecciona palabras y frases en función de su probabilidad de utilizarse en una respuesta coherente y adecuada. Hasta ahora, los sistemas de etiquetado han intentado modificar estas probabilidades para crear un patrón de escritura que no surgiría de forma natural.

Este patrón se convierte en la marca invisible del texto, identificable únicamente mediante herramientas especializadas que pueden detectar esa distribución estadística única. Sin embargo, para que estas herramientas funcionen, necesitan reconocer una parte significativa de los fragmentos de texto que se han incorporado intencionalmente. Si no es así, la detección puede resultar imprecisa o, en el peor de los casos, imposible.

Limitaciones y Vulnerabilidades del Sistema

El etiquetado de texto generado por IA presenta vulnerabilidades, especialmente cuando se realizan ediciones extensas al contenido original, se reprocesa a través de otro sistema de IA o se utilizan fragmentos breves del material original. Además, la existencia de una marca invisible no garantiza la autoría del contenido, ya que su identificación no prueba que la información, ideas o redacción sean completamente generadas por la IA.

Un ejemplo ilustra esta situación: un usuario que redacta un texto sobre sus vacaciones y utiliza un sistema de IA para corregirlo podría ver su contenido marcado como generado por IA, a pesar de que la esencia original provenga de su experiencia personal. Estas limitaciones técnicas han sido reconocidas desde hace varios años, cuando Google presentó SynthID, su propio sistema de identificación de contenidos generados o manipulados por IA.

Sobre la Etiquetación de Contenidos Multimedia

Por el momento, no existe un mecanismo infalible para el etiquetado o detección de textos invisibles que pueda confirmar con total certeza que un contenido ha sido generado o alterado por IA. Esta situación también se extiende, con ciertas variaciones, a los contenidos multimedia producidos con esta tecnología.

El estándar abierto de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) se ha adoptado ampliamente en la industria como un medio para identificar imágenes, videos, audios y gráficos generados o alterados mediante IA. Este protocolo actúa como una especie de «etiqueta nutricional» que, a través de metadatos criptográficos, proporciona información sobre el origen y la creación de los materiales. Estas firmas digitales son invisibles al ojo humano y solo pueden ser detectadas por sistemas especializados.

Aunque el C2PA es utilizado por empresas como OpenAI, Meta y Google, Anthropic ha manifestado que también lo implementará para la identificación de gráficos e imágenes. Sin embargo, los metadatos que proporcionan este tipo de identificación pueden ser eliminados a través de cambios en el formato de los archivos o mediante capturas de pantalla.

El Futuro del Etiquetado en la IA

La capacidad de identificar contenidos generados por IA se ha convertido en una prioridad tanto para organismos reguladores como para empresas del sector. La marcación no solo facilitaría la detección de deepfakes y la mitigación de la propagación de noticias falsas, sino que también podría ayudar a deslindar responsabilidades y ofrecer mayor transparencia en el consumo de información en línea. Para las empresas, podría ser un indicador valioso para detectar patrones de uso y adaptar su oferta a la demanda del mercado.

No obstante, en la práctica, el etiquetado todavía enfrenta importantes desafíos. La Ley de IA de la Unión Europea reconoce esta problemática, exigiendo además la incorporación de indicaciones visibles que informen sobre la procedencia de los contenidos. En este sentido, el sistema de etiquetado anunciado por Anthropic se presenta como un esfuerzo por alinearse con la legislación europea. Si bien puede proporcionar información adicional sobre el origen y procesamiento de un contenido, sus limitaciones técnicas sugieren que, por sí solo, no será suficiente para combatir la desinformación y los usos indebidos asociados con la generación de contenidos a través de IA. La efectividad de este sistema dependerá, en gran medida, de la integración de otros mecanismos de verificación y del contexto en el que se aplique.