Anthropic ha decidido alinearse con las nuevas exigencias de transparencia establecidas por la Unión Europea. La compañía ha comunicado que todos los modelos de Claude que se lancen a partir del 2 de agosto contarán con un sistema de etiquetado que permitirá a usuarios, plataformas y otros servicios de terceros identificar fácilmente los contenidos generados por sus sistemas de inteligencia artificial (IA).
Esta iniciativa responde a lo dispuesto en el artículo 50 (2) de la Ley de IA de la Unión Europea, que desde principios de este mes obliga a las empresas tecnológicas a etiquetar de manera clara aquellos contenidos relacionados con temas de interés público que sean creados o manipulados mediante esta tecnología.
Según la empresa, “a medida que el contenido generado por IA se convierte en algo común, una mayor transparencia sobre su origen puede ofrecer a los usuarios un contexto útil sobre la información que consumen. Para fomentar esta transparencia y cumplir con nuestras obligaciones legales, Anthropic está trabajando en la inclusión de marcas legibles por máquina en el contenido generado por Claude”, afirmaron en su página de soporte.
Sistema de etiquetado en nuevos modelos
El sistema de etiquetado que ha presentado Anthropic se incorporará automáticamente en sus futuros modelos de IA. Sin embargo, la empresa continúa trabajando en la adaptación de sus algoritmos y productos existentes, aprovechando el periodo de gracia de cuatro meses estipulado por la ley para cumplir con los nuevos requisitos.
En cuanto al funcionamiento del sistema de etiquetado, la compañía ha detallado que la marcación se realizará de forma diferenciada según el tipo de contenido generado. Por ejemplo, las imágenes o gráficos creados por IA incluirán metadatos que validen su origen, siguiendo el estándar abierto de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA).
En el caso de los textos, se utilizarán marcas de agua invisibles que permanecerán incluso si el contenido es copiado y pegado en otras plataformas, y podrían mantenerse tras ciertas ediciones. “La marca de agua se aplicará a nivel de modelo, lo que significa que estará presente sin importar el producto de Claude o la plataforma de origen del texto. No es visible y no altera el significado, la calidad ni la legibilidad de la respuesta de Claude”, precisó la empresa.
Detección de marcas y metadatos
Anthropic también está desarrollando un mecanismo que permitirá a los usuarios y terceros detectar las marcas de agua y los metadatos que ayudarán a identificar los contenidos creados por Claude. La compañía ha señalado que ofrecerá más detalles sobre este mecanismo en un futuro próximo.
Las marcas legibles por máquina se aplicarán a nivel global a todos los modelos Claude compatibles, que incluyen Claude Platform (API), Claude, Claude Code, Claude Cowork y Claude Tag. Asimismo, estarán disponibles al acceder a los modelos Claude a través de plataformas como AWS, Google Cloud o Microsoft Foundry.
Limitaciones del sistema de etiquetado
A pesar de los avances, el equipo de Anthropic reconoce que su sistema de etiquetado presenta ciertas limitaciones. Por ejemplo, si un sistema detecta una marca de Claude, esto solo indica que el contenido ha podido ser procesado por el modelo, pero no garantiza que la IA haya sido la creadora original de las ideas, la información o el texto.
Además, puede suceder que el sistema no incluya una marca detectable en contenido generado o procesado por Claude de manera automática en ciertos casos. Esto podría ocurrir si el material fue creado por un modelo previo al 2 de agosto, si el texto ha sido editado, parafraseado, traducido o combinado de manera significativa con otros contenidos, si el fragmento es demasiado corto para identificar una señal confiable, o si los metadatos se han eliminado al convertir, guardar nuevamente o capturar la pantalla de un archivo.
Por ello, Anthropic aclara que la presencia de una marca debe interpretarse como una indicación de procedencia, y no como una prueba concluyente de autoría humana o artificial.
Compromiso con la legislación europea
Con este anuncio, Anthropic se posiciona como una de las primeras empresas en manifestar su compromiso por adaptar sus productos a la Ley de IA vigente en la Unión Europea. Sin embargo, las medidas presentadas abarcan solo una fracción de los requisitos establecidos por la normativa.
El marco regulatorio estipula que los contenidos generados por IA deben combinar marcas invisibles y metadatos, así como iconos identificables a simple vista para informar sobre su procedencia. También exige que los sistemas interactivos de IA, como los chatbots, notifiquen de forma explícita a los usuarios desde el primer contacto que están interactuando con asistentes artificiales.
Es posible que la empresa anuncie en el futuro modificaciones al respecto, ya que también es uno de los firmantes del Código de Buenas Prácticas vinculado a la Ley de IA de la Unión Europea.
Más historias
GTA 6 en Netflix: Descubre la Fecha de Lanzamiento y Cómo Ver el Exclusivo Adelanto
Descubre 16 Cursos Gratuitos de IA, Programación y Ciberseguridad que Debes Tomar Ahora
OpenAI presenta «ChatGPT para Adolescentes»: Alertas para Padres sobre Contenidos Inapropiados en Conversaciones de sus Hijos