Google y su IA: Un hito legal en Alemania sobre la responsabilidad de las declaraciones generadas por inteligencia artificial

Un tribunal de Múnich, Alemania, ha emitido un fallo preliminar que podría transformar la manera en que funcionan los motores de búsqueda y los chatbots impulsados por inteligencia artificial a nivel global. La corte ha determinado que Google es responsable de las afirmaciones erróneas generadas por su herramienta AI Overviews, lo que le obliga a prevenir la difusión de información incorrecta a través de esta función integrada en su motor de búsqueda.

Este fallo se origina en un caso reportado por dos editoriales, que descubrieron que los resúmenes generados por la inteligencia artificial de Google las vinculaban con prácticas comerciales engañosas, estafas y fraudes relacionados con suscripciones, sin base real para tales afirmaciones.

A principios de este año, las empresas afectadas enviaron a Google una carta de cese y desistimiento, en la que solicitaban la eliminación de estas declaraciones. Sin embargo, la compañía desestimó la responsabilidad, argumentando que su función de resúmenes automáticos informa a los usuarios sobre la posibilidad de errores y sugiere la verificación independiente de la información.

Responsabilidad de la Tecnología en la Información

Tras un análisis detallado, el tribunal concluyó que la inteligencia artificial de Google había combinado información de distintas empresas señaladas por posibles prácticas ilícitas con datos de los demandantes, creando asociaciones que no estaban presentes en las fuentes citadas por el motor de búsqueda. A diferencia de los motores de búsqueda convencionales, que simplemente listan enlaces con contenido de terceros, la herramienta de Google produce “declaraciones independientes, nuevas y sustanciales” a partir de una interpretación incorrecta de la información disponible en la red.

La corte estableció que la responsabilidad de corregir este problema recae exclusivamente en Google, dado que es la única entidad capaz de modificar la tecnología detrás de sus resúmenes generados por inteligencia artificial, y por ende, debe rendir cuentas por su contenido. Además, el tribunal desestimó la defensa de la empresa, afirmando que la síntesis cuestionada contenía declaraciones que no estaban presentes en los resultados de búsqueda.

Un Cambio de Paradigma en la Regulación de la IA

La interpretación realizada por los jueces acerca de la función de la inteligencia artificial en la presentación de resultados podría marcar un precedente histórico en cuanto a la responsabilidad de las grandes empresas tecnológicas sobre el impacto de sus desarrollos más avanzados. Tradicionalmente, los motores de búsqueda han sido vistos como herramientas que facilitan el acceso a contenido creado por terceros, lo que les ha otorgado cierta protección legal en casos de información falsa o difamatoria.

No obstante, el tribunal alemán argumentó que esta protección no se aplica cuando los motores de búsqueda integran sistemas de inteligencia artificial generativa. Según su razonamiento, esta tecnología puede producir afirmaciones inexistentes a partir de múltiples fuentes, por lo que las empresas que la gestionan deben asumir la responsabilidad por el contenido generado.

Los jueces también subrayaron que, aunque Google insta a los usuarios a verificar la información debido a la posibilidad de errores en los modelos de IA, esta advertencia no exime a la empresa de su responsabilidad. Si se permitiera tal exención, las víctimas de afirmaciones falsas quedarían desprotegidas, ya que las fuentes originales nunca hicieron tales declaraciones y, por lo tanto, no podrían ser objeto de acciones legales.

Implicaciones Globales para la Industria de la IA

Además, el tribunal determinó que los resultados producidos por un sistema de inteligencia artificial no están protegidos bajo los principios de libertad de expresión, dado que son el resultado de un algoritmo diseñado y gestionado por una empresa, en lugar de ser la expresión de una opinión individual. Como medida cautelar, se ordenó a Google retirar gran parte de las afirmaciones consideradas difamatorias y asumir el 80% de los costos judiciales del proceso.

Un representante de Google ha indicado que la empresa está considerando apelar esta decisión, asegurando que invierte significativamente en la calidad de los resúmenes generados por inteligencia artificial para garantizar la precisión de la información presentada. Sin embargo, el fallo podría tener repercusiones significativas para toda la industria de la inteligencia artificial, afectando a empresas como OpenAI y Anthropic, que también advierten a sus usuarios sobre la posibilidad de errores en las respuestas generadas por sus sistemas.

Este caso subraya que las advertencias sobre la verificación de información no son suficientes para eximir a los desarrolladores de su responsabilidad. La resolución del tribunal establece que cuando una inteligencia artificial produce declaraciones que no están directamente disponibles en sus fuentes originales, la empresa responsable del desarrollo y operación del sistema debe asumir la responsabilidad legal por los daños que estas afirmaciones puedan ocasionar.