Cómo la Casa Blanca Moldea el Futuro de la IA: El Impacto del Caso Claude Fable 5 en el Acceso a Nuevos Modelos

Recientemente, se han cerrado las negociaciones entre la Administración Trump y la compañía Anthropic sin que se levantaran los controles de exportación impuestos la semana pasada sobre sus modelos de inteligencia artificial más avanzados. Esta decisión se tomó en respuesta a preocupaciones sobre el jailbreaking, una técnica que permite a los usuarios eludir las directrices de seguridad de un modelo de IA, lo que podría comprometer su integridad.

La administración mantiene la percepción de que existen métodos para desactivar ciertas medidas de seguridad en el modelo Claude Fable 5 de Anthropic. Esto podría permitir a los usuarios aprovechar las capacidades de ciberseguridad más robustas del modelo Mythos de la empresa, según informaron fuentes cercanas al asunto.

Reacciones de Anthropic ante las preocupaciones

Anthropic ha argumentado que las inquietudes de la administración son exageradas, una postura que reiteraron durante las reuniones con el grupo de trabajo en el Departamento de Comercio, donde estuvieron presentes investigadores gubernamentales del Centro para las Normas e Innovación en IA y de la Oficina del Director Nacional de Ciberseguridad. Entre los asistentes se encontraba el secretario de Comercio, Howard Lutnick, quien se conectó de forma remota desde la cumbre del G7 en Évian, Francia.

Representando a Anthropic, su cofundador y director de computación, Tom Brown, junto con la directora de relaciones externas, Sarah Heck, han liderado las conversaciones. Adicionalmente, el responsable de pruebas de penetración, Logan Graham, y el investigador sénior de seguridad, Nicholas Carlini, viajaron a Washington D.C. para participar en las discusiones. Un portavoz de Anthropic expresó que ambas partes están trabajando con diligencia para resolver la situación, aunque la Casa Blanca optó por no hacer comentarios.

El contexto político y las alarmas de seguridad

Estas conversaciones se desarrollan en un momento crucial para Anthropic, que ya enfrenta una prolongada disputa con el Pentágono sobre el uso de sus modelos de IA en aplicaciones militares. Las preocupaciones sobre el jailbreaking llegaron a la administración la semana pasada, cuando el director ejecutivo de Amazon, Andy Jassy, contactó directamente al secretario del Tesoro, Scott Bessent, para informar sobre las vulnerabilidades potenciales, lo que generó una mayor alarma en el gobierno.

Tras la conversación de Jassy, la Administración Trump solicitó a la Agencia de Seguridad Nacional de EE.UU. que analizara las vulnerabilidades, y esta confirmó la posibilidad de eludir las medidas de seguridad de Fable 5, lo que llevó a la imposición de restricciones al modelo. Lutnick mantuvo conversaciones con el director ejecutivo de Anthropic, Dario Amodei, mientras el Departamento de Comercio preparaba su carta para establecer controles de exportación. Posteriormente, Anthropic decidió bloquear el acceso al modelo para todos los usuarios.

Desacuerdos sobre la gravedad de la situación

El desacuerdo principal radica en la evaluación de los riesgos asociados al jailbreaking de Claude Fable 5. En un blog publicado por Anthropic, se sugiere que la administración ha exagerado la magnitud de estos riesgos. Varios investigadores en ciberseguridad respaldaron esta postura, enviando una carta abierta en la que argumentan que la medida de control de exportación es injustificada.

La carta sostiene que los modelos de la clase Mythos de Anthropic son efectivos para detectar fallos y convertir exploits en herramientas, pero no son los únicos en el mercado que pueden realizar estas tareas. Esto, según ellos, ha privado a los defensores de las mejores herramientas y ha generado incertidumbre en el sector, poniendo en riesgo el liderazgo de EE.UU. en inteligencia artificial sin una justificación real.

Implicaciones para el futuro de la inteligencia artificial

Dado que Fable 5 es una versión de Mythos con ciertas barreras de ciberseguridad, eludir sus protecciones podría proporcionar a los usuarios capacidades equiparables a las de Mythos. Aunque Anthropic ha expresado preocupaciones sobre permitir el uso público de Mythos, también ha afirmado que las medidas de seguridad de Fable 5 son suficientes para su lanzamiento al mercado.

Expertos en seguridad han evaluado los hallazgos de Amazon y consideran que los problemas identificados no anulan completamente las medidas de seguridad de Fable 5. Katie Moussouris, fundadora de Luta Security, afirmó que las barreras de seguridad no deben ser vistas como límites definitivos frente a adversarios expertos, sino más bien como moderadores de velocidad que solo afectan a aquellos con menos experiencia.

Los inversores de Anthropic, por su parte, han estado evaluando el impacto que esta disputa con la Casa Blanca podría tener en el futuro de la empresa. Algunos creen que el gobierno está tomando medidas específicas contra Anthropic, sugiriendo que un competidor no habría enfrentado la misma reacción si hubiera lanzado un modelo similar a Mythos.

Las restricciones impuestas por la Casa Blanca también plantean interrogantes para otros laboratorios de IA que buscan lanzar modelos con capacidades comparables a las de Mythos, así como sobre cómo cumplir con la normativa gubernamental. A partir de ahora, se espera que los laboratorios de IA proporcionen acceso anticipado a sus modelos avanzados a la Casa Blanca y mantengan una comunicación proactiva sobre el lanzamiento de nuevas tecnologías.

Según Aidan Gómez, director ejecutivo de Cohere, un laboratorio de IA más pequeño con sede en Canadá, los recientes acontecimientos subrayan la disposición del gobierno de EE.UU. a tomar medidas drásticas, lo cual es una realidad que no puede ser ignorada por el sector.