Expertos chinos en IA sugieren colaboración con EE. UU. para evitar un desastre tecnológico tipo Chernóbil

Recientemente, tuve la oportunidad de asistir a una conferencia de gran relevancia sobre inteligencia artificial en Zhongguancun, el vibrante distrito tecnológico de Pekín. El evento, que contó con un programa diverso y atractivo, abarcó temas que iban desde la superación recursiva —la capacidad de los modelos para modificar su propio código y progresar indefinidamente— hasta la evolución de los robots humanoides. Entre los ponentes destacados se encontraban figuras icónicas de la informática como Whitfield Diffie, conocido por su contribución a la criptografía de clave pública, y Andrew Barto, galardonado con el Premio Turing por su trabajo pionero en aprendizaje por refuerzo junto a Rich Sutton.

Una de las conclusiones más relevantes que extraje de la conferencia es que Estados Unidos y China deben reconsiderar su intensa rivalidad en el ámbito de la inteligencia artificial. Los peligros sistémicos y de ciberseguridad asociados con la IA avanzada son demasiado significativos como para ser ignorados. Los modelos agénticos, que están desarrollándose rápidamente, podrían provocar situaciones caóticas a menos que las potencias mundiales en IA encuentren un camino hacia la colaboración.

Stephen Casper, un destacado informático del MIT que participó en la conferencia de forma virtual, subrayó que «la inteligencia artificial es una tecnología global que trae consigo beneficios y riesgos a nivel mundial, y existe una tendencia constante hacia la proliferación de nuevas capacidades».

La percepción de amenaza en Estados Unidos

Hasta el momento, Estados Unidos ha percibido los avances en inteligencia artificial de China principalmente como una amenaza tanto económica como para la seguridad nacional. En respuesta a esta preocupación, Washington ha implementado restricciones severas sobre los chips y el equipamiento de fabricación de chips, con el fin de ralentizar el desarrollo de IA avanzada en el país asiático. Recientemente, el gobierno estadounidense instruyó a Anthropic para que restringiera el acceso a sus modelos más potentes, Mythos y Fable 5, a ciudadanos extranjeros por razones de seguridad nacional. Como resultado, Anthropic decidió revocar el acceso para todos, lo que generó inquietudes, especialmente en relación con una importante empresa surcoreana de telecomunicaciones que supuestamente tenía vínculos con China.

Sin embargo, la conferencia organizada por la Academia de Inteligencia Artificial de Pekín destacó que tanto Estados Unidos como China podrían sufrir consecuencias negativas si la IA se desarrolla de manera demasiado rápida e imprudente. A medida que la inteligencia artificial se vuelve más potente y autónoma, los riesgos asociados a su uso en ciberataques o posibles fallos catastróficos aumentan. Dado que ambas naciones son responsables de algunos de los modelos más avanzados, la cooperación se vuelve esencial.

La necesidad de colaboración internacional

Casper citó investigaciones que indican que los beneficios de la colaboración internacional en el ámbito de la IA superan con creces los riesgos para la seguridad nacional que podría conllevar trabajar conjuntamente. Comparó la situación actual con la época en que Estados Unidos y la Unión Soviética tuvieron que colaborar en torno a las amenazas nucleares, a pesar de su competencia en armamento. «Es un consenso en el campo de la IA que no podemos permitir un momento como el de Chernobyl», afirmó Casper.

Una de las sesiones de la conferencia abordó la universalidad de los retos cibernéticos asociados con una inteligencia artificial más avanzada. Se discutieron nuevas vulnerabilidades en el código generado por la IA, así como formas innovadoras de llevar a cabo ataques a través de herramientas agénticas y métodos automatizados para realizar ataques de phishing.

Después de otra intervención, tuve la oportunidad de dialogar con Lin Yun, profesor en la Universidad Jiaotong de Shanghái, cuyo trabajo en inteligencia artificial y seguridad informática es ampliamente reconocido. Yun expresó su opinión de que, aunque los hackers podrían tener una ventaja a corto plazo, las nuevas contramedidas, incluidas aplicaciones innovadoras de la IA, deberían eventualmente inclinar la balanza hacia la defensa.

El desafío de la apertura y la seguridad

Yun también mencionó que, aunque la competencia puede dificultar la cooperación internacional, esta debe seguir siendo una prioridad. «Si las naciones comprenden los riesgos de manera similar, resulta más sencillo desarrollar principios de seguridad y normas técnicas comunes. La clave es encontrar áreas donde el intercambio de información pueda mitigar el riesgo sistémico sin comprometer datos operativos sensibles», comentó.

Uno de los dilemas más complejos que enfrentan ambas naciones es cómo equilibrar la apertura con el riesgo. Los modelos abiertos son cruciales para la investigación y la innovación, y los modelos desarrollados en China han demostrado ser populares en el mercado estadounidense. Sin embargo, a medida que estos modelos evolucionan, se torna más difícil garantizar que no faciliten a los hackers la identificación de vulnerabilidades de seguridad o que no sean utilizados como armas cibernéticas.

La evolución de los modelos de IA de código abierto

En los últimos años, empresas chinas han liderado la creación de modelos de inteligencia artificial de código abierto altamente sofisticados, como Kimi de Moonshot, Qwen de Alibaba y GLM de Z.ai. Por su parte, Estados Unidos ha reactivado su propia iniciativa de IA de código abierto con modelos como Nemotron de Nvidia. Nos encontramos en un punto de inflexión en el que incluso los modelos abiertos menos avanzados podrían presentar riesgos significativos si carecen de las debidas medidas de seguridad. El más reciente modelo de Z.ai, GLM 5.2, incluye capacidades avanzadas de codificación y agentes innovadores, según los análisis de expertos. De hecho, esta semana, 360 Security Technologies, una importante empresa china de ciberseguridad, anunció el desarrollo de un modelo de IA capaz de hacking comparable a Mythos.

Yun enfatizó que el sector deberá encontrar nuevas formas de garantizar que los modelos abiertos estén actualizados, libres de puertas traseras y vulnerabilidades, y cumplan con las normativas de seguridad. Una posible señal de lo que está por venir es que, según una fuente de una destacada empresa china de IA, que solicitó permanecer en el anonimato por no estar autorizada a hablar con la prensa, las preocupaciones de seguridad son una de las razones por las que algunos modelos avanzados en China ya no se publican como código abierto.