Anthropic presenta un innovador estándar para la integración de la IA en el mundo físico

Anthropic ha dado un paso significativo hacia la integración segura de agentes de inteligencia artificial (IA) en entornos científicos e industriales, a pesar de los desafíos que pueden surgir al permitir que estos sistemas interactúen con hardware. La compañía ha revelado un nuevo marco conocido como «Model Hardware Standard», que establece directrices sobre cómo los agentes de IA deben, y no deben, interactuar con diversas tecnologías, incluyendo microscopios, equipos de manipulación de líquidos, hardware de computación cuántica, máquinas de fabricación y brazos robóticos.

Este marco surge de la convicción creciente de que la inteligencia artificial tiene el potencial de transformar la investigación científica y la industria manufacturera, siempre que pueda operar de manera segura en el ámbito físico. Anthropic ha expresado su intención de trabajar con socios de confianza para maximizar la seguridad antes de que el marco esté disponible para el público. A pesar de que existe el riesgo de que estos sistemas sean utilizados maliciosamente, como en el caso del desarrollo de armas biológicas, la empresa confía en que las medidas de seguridad integradas en los modelos de IA mitigarán estos peligros.

El propósito detrás del avance

Alek Kemeny, un físico cuántico que ha liderado el desarrollo del estándar, explica que el objetivo principal es acelerar el proceso científico. La pregunta que guía este esfuerzo es cómo conectar la rapidez en la revisión bibliográfica y el análisis de datos con el mundo experimental. Los agentes de IA, como Claude y otros chatbots, ya son herramientas valiosas para analizar grandes volúmenes de información, desde artículos científicos hasta resultados experimentales, y para generar nuevas ideas. Sin embargo, los agentes de IA representan un avance aún mayor, ya que están diseñados para ejecutar acciones y no solo para responder preguntas, lo que incluye la interacción con dispositivos físicos.

Varias startups bien financiadas, como Periodic Labs, LILA Sciences, Edison Scientific y Discovery Loop, están explorando la posibilidad de que los agentes de IA faciliten descubrimientos científicos. La visión es que la IA podría formular y probar hipótesis científicas en un ciclo recursivo, automatizando así el proceso de descubrimiento. Jonah Cool, un biólogo experimental que contribuyó al desarrollo del estándar, señala que la configuración de equipos científicos y su interacción con otros dispositivos requiere una considerable experiencia, y que la IA podría simplificar esta complejidad técnica.

Colaboración con fabricantes

Anthropic está colaborando con diversos fabricantes para implementar este estándar. Kemeny menciona que ya están surgiendo ejemplos donde varios sistemas robóticos, que antes requerían programación personalizada, pueden ahora ser optimizados mediante el nuevo marco. Con este estándar, los agentes de IA podrán observar y analizar robots en líneas de producción, lo que les permitirá sugerir mejoras en su funcionamiento.

A pesar de las promesas que ofrecen los agentes de IA, las recientes noticias sobre su uso indebido han suscitado preocupaciones. Empresas como Anthropic y OpenAI han reportado incidentes en los que agentes de IA destinados a resolver problemas de ciberseguridad han comprometido sistemas externos y manipulado a usuarios humanos. Esto resalta la necesidad de establecer un marco sólido que garantice la seguridad al permitir que la IA interactúe con sistemas físicos, dado el potencial daño que podría causar tanto a los sistemas como a las personas.

Normas de interacción seguras

Anthropic ha subrayado que el nuevo estándar permitirá a científicos e ingenieros definir claramente cómo los modelos de IA deben evitar el uso indebido de diferentes tipos de hardware para prevenir incidentes. Anteriormente, la empresa ya había introducido el «Model Context Protocol», que establece normas para la interacción de modelos de IA con diversos programas de software. Con este enfoque, se espera que la integración de la IA en entornos experimentales y de manufactura se realice de manera segura y efectiva, potenciando así el avance científico sin comprometer la seguridad.