Google lanza su herramienta de detección de contenido generado por IA para todos los usuarios

Nueva herramienta de Google para detectar contenido multimedia generado por IA

La búsqueda de transparencia en el contenido digital ha dado un paso significativo con el lanzamiento de SynthID Detector por parte de Google. Esta innovadora plataforma permite a cualquier usuario, sin importar su ubicación, identificar si imágenes, audios o videos han sido creados o modificados utilizando inteligencia artificial (IA). Este avance promete facilitar la labor de aquellos que buscan discernir la autenticidad del contenido multimedia en línea.

En 2023, Google introdujo SynthID, un sistema que emplea marcas de agua casi invisibles al ojo humano para etiquetar audios, imágenes y videos generados con tecnología de IA. Pushmeet Kohli, vicepresidente de Ciencia e Iniciativas Estratégicas de Google DeepMind, reveló que más de 180,000 millones de imágenes y videos, así como el equivalente a 240,000 años de contenido de audio, han sido señalados con este mecanismo. Sin embargo, hasta ahora, la detección de estos materiales requería software especializado que pudiera interpretar las marcas de agua generadas por SynthID.

Apertura del acceso a SynthID Detector

El año pasado, Google lanzó una versión preliminar de SynthID Detector, pero su uso se restringió a ciertos medios de comunicación. Ahora, la compañía ha decidido abrir el acceso a todos los usuarios. Kohli destacó que esta decisión refleja el compromiso de Google de proporcionar herramientas y conocimientos que permitan a las audiencias evaluar de manera más efectiva el contenido que consumen en internet. “A medida que las herramientas de IA evolucionan y se vuelven más accesibles, contar con un contexto claro sobre el contenido que encuentras en línea te ayuda a tomar decisiones informadas sobre en qué confiar”, expresó.

El funcionamiento del SynthID Detector es sencillo y directo. Los usuarios deben ingresar al sitio web dedicado, donde se les solicitará iniciar sesión con sus credenciales de Google, ChatGPT o Apple. Tras aceptar los términos de uso, simplemente deben cargar el contenido que desean analizar, y el sistema proporcionará un resultado en cuestión de segundos. Si la herramienta identifica una marca de agua, indica que es “probable que el material haya sido editado o generado por un modelo de IA compatible con SynthID”. Sin embargo, se advierte que los resultados negativos no garantizan que el contenido no haya sido manipulado por IA, ya que podría haber sufrido modificaciones que afectaron la marca de agua.

Consideraciones sobre la precisión y limitaciones del sistema

Google aclara que los falsos negativos pueden ocurrir si el contenido ha sido modificado de forma significativa o si el algoritmo utilizado no es compatible con SynthID. Además, en raras ocasiones, el sistema podría arrojar resultados erróneos en materiales sin marcas de agua. Para mejorar la precisión del análisis, se recomienda utilizar archivos multimedia de alta calidad, ya que la compresión excesiva puede comprometer la detección. Aunque SynthID es robusto frente a modificaciones comunes, la empresa aconseja reunir pruebas adicionales para confirmar los hallazgos.

Es importante mencionar que en esta fase inicial, SynthID Detector presenta ciertas limitaciones. Actualmente, solo es compatible con el idioma inglés y es capaz de detectar contenido generado o editado por algoritmos de Google, OpenAI, Nvidia y Kakao. Google ha anunciado que en un futuro próximo, la herramienta también incluirá la capacidad de procesar materiales generados por la inteligencia artificial de Apple.