La razón detrás del interés de Anthropic en la regulación de la IA en EE. UU.

Anthropic, la empresa emergente valorada en casi un billón de dólares, ha sostenido su respaldo a las primeras leyes sobre seguridad de la inteligencia artificial (IA) en Estados Unidos, promoviendo requisitos de transparencia en California y Nueva York. Estas iniciativas encontraron resistencia en gran parte de Silicon Valley, que argumentó que podrían obstaculizar el avance de la IA. Sin embargo, la compañía ahora considera que dichas regulaciones podrían estar obsoletas y está instando a los estados a adoptar normativas más estrictas.

«Los proyectos de ley de seguridad centrados en la transparencia de 2025 fueron un comienzo crucial, pero con la rápida evolución de las capacidades de los sistemas de IA, las respuestas políticas deben evolucionar también», expresó César Fernández, director de relaciones con gobiernos estatales y locales de EE.UU. en Anthropic, durante una entrevista reciente. Agregó que «la transparencia y la autodeclaración ya no son medidas de seguridad adecuadas para los sistemas de IA más avanzados».

La visión de Anthropic sobre la regulación

Es inusual que una startup con un valor tan alto abogue tan fervientemente por la regulación. Sin embargo, Anthropic tiene un enfoque distintivo. Sus líderes creen que la construcción de un negocio robusto, basado en el desarrollo y la comercialización de acceso a tecnologías de IA avanzada, es vital para cumplir su misión de asegurar una transición segura hacia la IA transformadora.

A medida que la empresa ha crecido, ha comenzado a respaldar regulaciones más estrictas para las empresas de IA de vanguardia. Estas normativas están diseñadas para mitigar riesgos catastróficos asociados con la IA, que van desde crisis financieras hasta potenciales pérdidas humanas. Anthropic ha apoyado no solo las leyes de autoinforme en California y Nueva York, sino también una medida en Illinois que exige a los laboratorios de IA someter sus procesos de seguridad a auditorías externas. Recientemente, la empresa también respaldó una política en Massachusetts que requeriría auditorías externas y facultaría al fiscal general a tomar medidas cautelares contra los incumplimientos.

Un enfoque estratégico en la competencia

La agenda regulatoria de Anthropic ha recibido elogios de grupos de seguridad de IA, sindicatos y aliados, pero algunos en Silicon Valley ven sus esfuerzos con escepticismo. David Sacks, exresponsable de la IA en la Casa Blanca y actual asesor de tecnología del expresidente Donald Trump, ha argumentado que la empresa busca legislar para atrapar a las startups en trámites burocráticos, asegurando así su posición en el mercado de IA.

Fernández rechaza esta interpretación, aclarando que Anthropic respalda únicamente proyectos de ley que se aplican a «grandes desarrolladores de modelos de IA», un término que varía según el contexto, pero que generalmente se refiere a empresas con significativas inversiones y altos ingresos anuales. «Es difícil imaginar que una startup cumpla con ese criterio», sostiene Fernández.

A pesar de que existen empresas emergentes que podrían alcanzar esos niveles de inversión y tamaño rápidamente, como Safe Superintelligence y Mistral, Fernández argumenta que cualquier empresa con la capacidad de desarrollar un modelo de IA potente debe adherirse a las mismas regulaciones debido a los riesgos inherentes de la tecnología.

La postura de Anthropic sobre la regulación federal

Sin embargo, Anthropic también establece límites sobre lo que los estados deberían hacer en ausencia de una regulación federal. En un documento de política reciente, la empresa recomendó que los gobiernos implementen mecanismos para impedir la implementación de modelos de IA considerados inseguros. Esta recomendación es irónica, dado que la administración Trump obligó a Anthropic a restringir el acceso a sus modelos más potentes para ciudadanos extranjeros, lo que generó desacuerdos dentro de la compañía.

Fernández menciona que el derecho a bloquear modelos inseguros debería ser competencia del gobierno federal, no de los legisladores estatales. Tras la directiva de control de exportaciones que afectó a Anthropic, la compañía reiteró que cualquier bloqueo debe llevarse a cabo mediante un proceso justo y transparente.

El papel de Anthropic en la política de IA

Independientemente de las motivaciones percibidas, Anthropic sigue teniendo un papel crucial en la configuración del futuro de la regulación de IA. Sus recientes lanzamientos han centrado la atención en las capacidades de ciberseguridad de la IA avanzada. A lo largo de los años, la empresa ha advertido a los legisladores sobre los riesgos catastróficos de la IA avanzada. Sin embargo, las preocupaciones sobre el impacto de la IA, como la pérdida de empleos o la llegada de centros de datos, no han impulsado una respuesta legislativa similar por parte de otros laboratorios de IA.

A pesar de que Anthropic y sus competidores han prometido que los contribuyentes no financiarán los centros de datos, la presión política para abordar estos problemas ha sido mínima. Fernández asegura que Anthropic está «deseoso de dialogar con los legisladores» sobre una variedad de temas relacionados con la IA y que ya se están llevando a cabo conversaciones en varios estados.

Aunque estos debates no han generado aún la presión coordinada que Anthropic busca en torno a los riesgos de los modelos de frontera, la empresa continúa desempeñando un papel fundamental en el desarrollo de políticas que podrían definir el futuro de la inteligencia artificial.