OpenAI Resuelve Más de 100 Problemas Matemáticos y Provoca la Ira de Expertos en Matemáticas

En agosto, OpenAI congregó a cerca de 40 matemáticos con el objetivo de discutir las implicaciones de que la inteligencia artificial (IA) supere las habilidades humanas en el ámbito matemático. Durante el encuentro, la empresa sugirió que sus avanzados modelos habían logrado resolver numerosos problemas matemáticos que habían permanecido sin solución durante años. Sin embargo, los representantes de OpenAI aseguraron a los asistentes que no se publicarían todas las soluciones de manera inmediata, una afirmación sobre la cual la portavoz de la compañía, Lindsay McCallum, expresó que «no hay constancia». Preocupada por la posible reacción de la comunidad matemática, solicitó orientación sobre la forma adecuada de dar a conocer los resultados.

Los participantes reaccionaron con una mezcla de entusiasmo y preocupación, pero la reunión fue vista como un primer paso positivo, según la matemática Bryna Kra, de la Universidad Northwestern. El grupo instó a OpenAI a no limitarse a realizar publicaciones en un blog o a través de redes sociales, como había ocurrido previamente con diez problemas. En su lugar, Kra enfatizó la importancia de que la compañía presentara artículos detallados que explicaran los hallazgos, permitiendo a los matemáticos asimilar, analizar y aplicar los resultados. No obstante, según Kra, esta sugerencia fue ignorada.

Próxima divulgación de resultados

OpenAI ha anunciado su intención de publicar cientos de soluciones a problemas no resueltos en GitHub este martes, según informaciones de fuentes cercanas a la compañía. Esta publicación marcaría la más reciente de una serie de decenas de miles de soluciones matemáticas generadas por la IA en lo que va del año.

“El 28 de agosto comenzamos a entrenar un nuevo modelo interno. Además de abordar el problema del Premio del Milenio de Navier-Stokes, este modelo ha resuelto más de 100 problemas abiertos en diversas áreas de las matemáticas”, comentó McCallum. “Estamos comprometidos con la publicación responsable de los resultados matemáticos de nuestro modelo, guiados por las recomendaciones del Grupo Asesor sobre Matemáticas e Inteligencia Artificial del Instituto de Estudios Avanzados sobre cómo comunicar estos hallazgos. Aún no hemos establecido una fecha definitiva para la publicación.”

No obstante, varios matemáticos prominentes han expresado que esta inminente divulgación sugiere que la empresa no ha aprendido de las controversias generadas por publicaciones anteriores.

Competencia entre empresas de IA

En diálogos con expertos, se ha manifestado la percepción de que el campo matemático se ha convertido en un escenario para que OpenAI y su competidor Anthropic muestren sus modelos, mientras se preparan para futuras ofertas públicas iniciales. Los académicos consideran que, en su afán de superarse mutuamente, han pasado por alto los procesos científicos tradicionales relacionados con la publicación y la atribución de resultados.

Un episodio destacado ocurrió en septiembre, cuando OpenAI movilizó miles de agentes para resolver el prestigioso problema del Premio del Milenio, tras rumores de que otros investigadores se acercaban a encontrar soluciones. Tristan Buckmaster, matemático y profesor en la Universidad de Nueva York, acusó a la compañía de adelantarse al trabajo que él había estado realizando en colaboración con Levent Alpöge, empleado de Anthropic. Aunque su investigación no había sido publicada, habían utilizado las herramientas de OpenAI como apoyo.

Durante las negociaciones para obtener reconocimiento, Buckmaster alegó que Bubeck, un investigador de OpenAI, insinuó que Alpöge debería ser excluido como autor en cualquier publicación, ya que esto podría complicar las cosas. En respuesta a una solicitud de comentarios, Bubeck se refirió a una declaración anterior en la que negó haber hecho tal sugerencia. Buckmaster se opuso a esta idea, y en una conversación posterior, Bubeck expresó que “hay cierta preocupación por lo que está haciendo Anthropic” y cuestionó qué impedía a la empresa rival utilizar su capacidad de cómputo para abordar el problema del Milenio.

Inquietudes sobre la ética en la IA

Nestor Guillen, profesor visitante en la Universidad de Nueva York, comentó que entre los matemáticos predomina la percepción de que las empresas de IA adoptan comportamientos poco éticos. “No estamos de acuerdo con esa caracterización”, replicó McCallum. Guillen manifestó que existe una creciente inquietud entre sus colegas, no tanto por la IA en sí, sino por el poder concentrado en unas pocas compañías. “Creo que gran parte de esta preocupación se debe a la acumulación de poder en un solo lugar”, añadió.

A mediados de septiembre, OpenAI estableció un grupo asesor para ayudar a la empresa a evaluar y comunicar nuevos resultados, mantener estándares académicos y desarrollar herramientas que respalden la investigación matemática. Sin embargo, muchos matemáticos consideran que la firma no ha avanzado de manera significativa en este aspecto. Muchos se sienten frustrados porque OpenAI y Anthropic continúan publicando resultados en blogs en lugar de en artículos académicos, lo que dificulta la verificación y frecuentemente excluye trabajos previos de otros investigadores. Esta falta de formalidad también se ha visto en otros lugares, como cuando Alpöge anunció que había refutado una conjetura de 87 años a través de un tuit.

Nuevas herramientas para un nuevo paradigma

Algunos en la comunidad matemática han comenzado a desarrollar nuevas herramientas en respuesta al auge de las demostraciones asistidas por máquinas, con el fin de facilitar la utilización de los nuevos resultados y discernir qué información requiere un análisis más profundo. Entre estas herramientas se encuentran Hexagon, un repositorio de materiales generados principalmente por IA, y Palomar, un registro de matemáticas verificadas por máquinas.

A pesar de que se ha instado a OpenAI a utilizar estas herramientas, Kra observa que “no han cambiado su comportamiento”. Además, considera que las acciones de la empresa no se alinean con la Declaración de Leiden, un llamado de más de 4,000 matemáticos para que las entidades de IA respeten los estándares de la comunidad matemática, en cuyo desarrollo ella participó.

Transformaciones en el horizonte

Algunos empleados de OpenAI creen que su tecnología ha dejado obsoletas ciertas prácticas matemáticas, según fuentes que han conversado con ellos. McCallum, sin embargo, sostiene que “no creemos que el futuro de las matemáticas esté escrito”. La empresa está colaborando con la comunidad matemática para enfrentar el futuro de manera conjunta. Aunque el escenario en el que la IA supera las capacidades humanas fue considerado hipotético durante la reunión de agosto, muchos asistentes lo interpretaron como una advertencia sobre lo que podría suceder. La empresa ha comunicado sus avances de manera similar a cómo “la policía podría notificar a una familia antes de informar sobre un accidente”, comparó un asistente.

Bubeck parece pensar que la tecnología de OpenAI podría amenazar la carrera de la mayoría de los matemáticos. Sin embargo, en su conversación, expresó que una IA más avanzada podría ayudar a los matemáticos a abordar problemas más ambiciosos, conectar su trabajo con la solución de desafíos del mundo real y hacer que las matemáticas sean más accesibles. “Veo esto como una oportunidad para expandir las capacidades de los matemáticos y el impacto de su trabajo”, declaró.

A pesar de ser conscientes de la necesidad de adaptarse, especialmente para preparar a las nuevas generaciones, los matemáticos no consideran que su campo esté destinado a desaparecer. “Está cambiando nuestra forma de trabajar, pero creo que es un momento para pensar en grande”, argumenta Kra. Se siente optimista por contar con una nueva y poderosa herramienta para resolver problemas, aunque desea que las empresas sean más transparentes para poder confiar en los resultados y aprovecharlos al máximo. “Es un momento que da miedo, pero también muy emocionante”, concluye.