Programadores descubren métodos para evadir las marcas de agua en textos de Claude

En un giro sorprendente para el ámbito de la inteligencia artificial, Guillaume Meyer, un desarrollador, logró eludir las marcas de agua invisibles que Anthropic había introducido en su modelo de IA, Claude. Esta medida, anunciada por la empresa para cumplir con la nueva legislación de la Unión Europea sobre IA, se implementó con el objetivo de etiquetar todo contenido generado por inteligencia artificial. Sin embargo, en cuestión de horas tras el anuncio, el código de Meyer se volvió viral en GitHub, atrayendo más de 20,000 ‘me gusta’ en X y la colaboración de más de 100 desarrolladores que buscan incorporar esta tecnología en sus propios proyectos.

La comunidad de inteligencia artificial se vio rápidamente involucrada en la cuestión, con muchos expertos y entusiastas investigando cómo funcionan estas marcas de agua. La controversia radica en la idea de que todo contenido generado por IA debería ser etiquetado, lo que ha llevado a algunos, incluidos los redactores de contenido y creadores de redes sociales, a buscar soluciones para eludir esta restricción.

Retos de la nueva regulación

Las regulaciones, que entraron en vigor a principios de este mes, exigen que proveedores de modelos como Anthropic y OpenAI etiqueten sus contenidos sintéticos para que sean identificables por máquinas. Aquellos que no cumplan con esta normativa podrían enfrentar multas de hasta el 3% de su facturación anual. Sin embargo, mientras que las empresas no pueden comercializar herramientas para eludir las marcas de agua, no existe prohibición legal sobre desarrollos independientes. Meyer, quien se ha manifestado a favor de la transparencia en la atribución de contenido, sostiene que las marcas de agua presentan serios inconvenientes y riesgos, incluyendo la posibilidad de falsos positivos que podrían afectar injustamente a los usuarios.

La implementación de estas marcas de agua en el texto de Claude se realiza mediante un patrón sutil en la selección de palabras y frases que, aunque imperceptible para el lector humano, puede ser detectado por sistemas informáticos diseñados para tal fin. Esta técnica, conocida como SynthID, fue desarrollada por Google y ha sido objeto de debate sobre su posible impacto en la calidad de las respuestas generadas por Claude. A pesar de las preocupaciones, Anthropic ha defendido que la calidad de sus respuestas no se verá comprometida.

Estrategias para eludir las marcas de agua

El método propuesto por Meyer para eliminar las marcas de agua implica el uso de un modelo de lenguaje que no las aplica, generando múltiples reescrituras del contenido original. Este enfoque depende de modelos que no implementan marcas de agua, lo cual plantea incertidumbres, dado que varios laboratorios han firmado un código de prácticas de transparencia que incluye la obligación de marcar sus nuevos modelos a partir de agosto. La efectividad de las herramientas de Meyer aún está por confirmarse, a la espera de que Anthropic publique el software que detecta las marcas de agua.

Wayne Pan, director tecnológico de Haimaker y cofundador de una startup de IA, ha incorporado el código de Meyer en su plataforma, manifestando su desacuerdo con la idea de que Claude etiquete contenido de manera invisible para sus usuarios. Otros desarrolladores también han creado herramientas similares. Por ejemplo, Erik Hughes diseñó en solo 15 minutos una aplicación que elimina caracteres invisibles y reordena frases, mientras que Leon Chlon encontró que la traducción a idiomas con estructuras semánticas distintas podría ser un método efectivo para eludir las marcas de agua.

El futuro de las marcas de agua en IA

En una declaración, un portavoz de Anthropic subrayó que la implementación de marcas de agua tiene como fin cumplir con la legislación de la UE y mejorar la identificación de contenido generado por IA. Aseguró que esta medida no afecta la calidad ni la legibilidad de las respuestas de Claude. La empresa está trabajando en métodos para detectar efectivamente las marcas de agua en el texto y planea lanzar una herramienta que permitirá a los desarrolladores evaluar la eficacia de sus propios métodos para eludirlas.

A medida que el debate sobre la ética y la efectividad de las marcas de agua continúa, la comunidad de inteligencia artificial se encuentra en una encrucijada, buscando un equilibrio entre la transparencia y la innovación. Las acciones futuras de Anthropic y otros proveedores en este ámbito serán cruciales para definir el rumbo de la regulación y el desarrollo de la inteligencia artificial en los próximos años.