noviembre 21, 2026

Canarias Global

Noticias de Canarias

La Estrategia de Google para Regular la IA General y Evitar Riesgos Futuro

La Estrategia de Google para Regular la IA General y Evitar Riesgos Futuro

DeepMind Institute: Un nuevo enfoque hacia la inteligencia artificial

En un contexto marcado por el creciente interés y las inquietudes sobre los riesgos asociados a la inteligencia artificial (IA), Google DeepMind ha inaugurado el DeepMind Institute (DMI). Esta plataforma tiene como objetivo promover la investigación interdisciplinaria, fomentar la colaboración y abrir un espacio para el debate sobre las implicaciones tanto técnicas como sociales que conlleva el desarrollo de la inteligencia artificial general (IAG).

La iniciativa es liderada por James Manyika, vicepresidente sénior de Google-Alphabet, Shane Legg, cofundador y científico jefe de IA general en Google DeepMind, y Demis Hassabis, cofundador y presidente del laboratorio. En el documento de lanzamiento, los líderes definen la IAG como sistemas capaces de “exhibir” todas las capacidades cognitivas del ser humano y consideran que estos algoritmos pueden acelerar los avances científicos, impulsar el crecimiento económico y ayudar a resolver problemas ambientales y sociales.

Reconocimiento de los desafíos de la IA

A pesar de las oportunidades que ofrece, los líderes del proyecto son conscientes de que esta tecnología conlleva riesgos considerables que deben abordarse desde el inicio. Señalan que “este es un momento crucial para garantizar que la construcción de la IA general se realice de manera segura, de tal forma que sus beneficios superen ampliamente cualquier riesgo potencial”. En este sentido, enfatizan que no solo los tecnólogos deben tener la responsabilidad de formular respuestas adecuadas para el desarrollo y la implementación responsable de la IAG.

El documento destaca que el DMI servirá como un foro donde expertos de Google y la comunidad científica internacional podrán discutir preguntas “cruciales” que determinarán el futuro de la inteligencia artificial general. “Establecimos este instituto porque es esencial un debate intelectual amplio que nos permita alcanzar un consenso sobre cómo enfrentar los desafíos y aprovechar las oportunidades que nos presenta esta tecnología”, subrayan los autores.

Leer:  ¿Valdría la pena invertir 50 dólares en un popote que promete bloquear la radiación del Wi-Fi? Descubre la verdad aquí.

Publicaciones que marcan el rumbo de la investigación

Junto al ensayo inaugural, el DMI se lanzó con cuatro publicaciones que recogen las perspectivas de científicos de Google DeepMind y académicos del Centro Leverhulme para el Futuro de la Inteligencia. Estas publicaciones abordan la necesidad de implementar mecanismos de transparencia, así como una serie de propuestas sobre políticas económicas relacionadas con la IAG y principios que aseguren el “florecimiento humano” en el contexto de la rápida evolución tecnológica.

Uno de los textos más destacados es el escrito por Demis Hassabis, titulado “Un marco para la IA de vanguardia y el amanecer de una nueva era”. Este documento señala que el progreso en el desarrollo de la IA puede tener tanto consecuencias positivas como negativas, y a una velocidad que podría superar la de transformaciones tecnológicas anteriores.

Estados Unidos y el liderazgo en regulación de la IAG

Hassabis enfatiza que “nos encontramos en medio de una intensa y compleja carrera comercial y geopolítica”. Aunque esta competencia impulsa avances significativos y beneficios notables, también plantea desafíos que superan nuestra comprensión actual. “Nadie puede prever con certeza qué sucederá a continuación”, agrega.

En este sentido, el experto sostiene que Estados Unidos tiene una “posición privilegiada” para liderar el desarrollo de un marco regulatorio para esta tecnología avanzada, mediante la creación de un “organismo de normalización”. Esta entidad sería responsable de establecer protocolos para evaluar modelos de IA y realizar pruebas de seguridad en colaboración con agencias federales y laboratorios nacionales.

Normas y evaluaciones de seguridad en IA

El organismo también alentaría a los laboratorios que desarrollan algoritmos avanzados a adoptar medidas de mitigación de riesgos, que incluirían la publicación de fichas técnicas, el fortalecimiento de sistemas de ciberseguridad y la verificación del personal clave. En una primera fase, los desarrolladores de IA compartirían sus modelos de forma voluntaria con el organismo hasta 30 días antes de su lanzamiento, permitiendo así una evaluación de sus capacidades en áreas como la ciberseguridad y las amenazas biológicas.

Leer:  Fox se une a Roku: Nace un nuevo gigante de medios y tecnología

Para los sistemas de IA con agentes, las pruebas se centrarían en identificar intentos de eludir medidas de seguridad o señales de engaño. Además, se considerarían prácticas como la implementación de marcas de agua digitales en imágenes generadas por IA y la generación de tokens de salida que faciliten la comprensión del razonamiento del modelo.

Un camino hacia estándares internacionales

Aunque las pruebas iniciales se llevarían a cabo en colaboración con los laboratorios de desarrollo, Hassabis indica que la intención final es que el organismo obtenga la autoridad necesaria para realizar evaluaciones independientes, evitando que los modelos se ajusten específicamente a los criterios establecidos. “Esta iniciativa estadounidense podría ser un sólido punto de partida para la creación de estándares internacionales sobre IA avanzada. Dado que esta tecnología impactará a nivel global, idealmente este marco fomentaría un consenso internacional sobre cómo gestionar los riesgos más significativos”, concluyó el presidente de Google DeepMind.

El DMI y las propuestas regulatorias de Hassabis emergen en un contexto donde diversas voces dentro y fuera de la industria abogan por una pausa en el avance de la IA, alertando sobre los riesgos que conlleva su desarrollo sin las salvaguardias adecuadas. Si bien hay un consenso creciente sobre las amenazas potenciales que plantea la IA, los especialistas advierten que ni las empresas ni los países están dispuestos a frenar su innovación por el temor a quedar rezagados frente a la competencia.