El Consejero Papal en Inteligencia Artificial Advierte sobre el Riesgo de un Cártel entre Desarrolladores

Las recientes advertencias de expertos en inteligencia artificial han suscitado un creciente temor sobre el potencial de esta tecnología para amenazar la existencia humana. Este alarmante escenario se deriva de la feroz competencia y rivalidad entre Estados Unidos y China, lo que impulsa a las empresas a acelerar el desarrollo de modelos superinteligentes que podrían superar ampliamente las capacidades humanas.

No obstante, el padre Paolo Benanti, sacerdote y asesor de la Iglesia Católica en temas de IA, sostiene que esta preocupación desvia la atención de un debate crucial sobre cómo regular a las empresas que desarrollan estas tecnologías. Según Benanti, al presentar el problema como tan complejo que solo ellos pueden resolverlo, los grandes laboratorios excluyen al público de la discusión. «La ética no puede ser monopolio de un consejo de administración. Debe ser un tema de debate en la esfera pública», afirma Benanti. «Es imprescindible establecer una regulación democrática».

Demandas de Evaluación Externa

En un ensayo reciente, Dario Amodei, director ejecutivo de Anthropic, abogó por la implementación de evaluaciones obligatorias por parte de organismos externos antes de que nuevos modelos de IA sean lanzados al mercado. También sugirió la necesidad de restricciones a la «destilación», un proceso en el que laboratorios rivales entrenan su propia IA utilizando resultados de modelos protegidos. Otros expertos han propuesto una prohibición total de la «automejora recursiva», donde la IA utiliza sus capacidades de programación para crear futuras versiones de sí misma.

Benanti no está tan interesado en restringir los métodos de desarrollo de la IA, temiendo que tales acciones puedan obstaculizar la innovación. Sin embargo, sí aboga por la creación de normas que aseguren que estos modelos no escapen al control humano. Insiste en que los laboratorios no deberían ser los encargados de diseñar estas regulaciones. «El discurso de las empresas pioneras responde a intereses propios para mantener su liderazgo en el mercado», señala Benanti. «Cuando un grupo reducido impone las normas, eso se conoce como un cártel».

La Complejidad de la Superinteligencia

Benanti también expresa su escepticismo hacia las grandilocuentes afirmaciones sobre las capacidades de los modelos más recientes de IA, en parte debido a los intereses económicos, políticos y personales que influyen en el discurso. Aunque OpenAI y Anthropic apoyan las propuestas de desacelerar el desarrollo, ambos se preparan para salir a bolsa, lo que genera un clima de competencia por los miles de millones de dólares disponibles en el mercado. Las tensiones entre Estados Unidos y China, donde se están creando los modelos más avanzados, complican aún más la situación.

Hasta el momento, Anthropic no ha ofrecido comentarios sobre este asunto, y OpenAI y Google DeepMind no han respondido a las solicitudes de información.

La Relación entre Ética y Tecnología

Benanti critica la forma en que algunos sectores de la industria se refieren a la «superinteligencia» con un respeto que normalmente se reserva para deidades, presentándola como algo que trasciende nuestra comprensión. Este enfoque, a su juicio, distorsiona el debate. «¿Estamos hablando de algo o de alguien? Esa es la verdadera diferencia. No es una cuestión de fe, es una cuestión de matemáticas», afirma. «No estamos creando una nueva divinidad. Simplemente nos engañamos al pensar que hay algo más que un cálculo estadístico en juego».

En el contexto de la llegada de la IA, Benanti sugiere que esta tecnología podría dar lugar a un nuevo papel para las religiones en el debate público. «Abordar los desafíos de nuestra época es parte de la misión de la Iglesia», sostiene.

Reflexiones del Papa sobre la IA

Aunque Benanti es un miembro del clero, no actúa en representación de la Santa Sede. Su papel es el de asesor en filosofía, teología y tecnología. Utiliza la IA para desarrollar herramientas y materiales para sus estudiantes universitarios, aunque no se ha pronunciado sobre la relación entre el papa León XIV y la tecnología actual, citando un «acuerdo de confidencialidad».

Recientemente, el papa León publicó su primera encíclica, en la que reflexionó sobre la inteligencia artificial. En este documento, advirtió sobre la lógica tecnocrática que prevalece en la industria de la IA, la cual presenta «la eficiencia como la medida máxima de la productividad» y reduce a los seres humanos a «un proyecto de optimización». Además, llamó a la cooperación internacional entre potencias rivales y empresas de IA, instando a que se priorice el bien común por encima del deseo de dominación geopolítica o comercial. En una de sus afirmaciones más impactantes, advirtió sobre el «riesgo de que la humanidad se convierta en víctima de sus propios logros».

Benanti sostiene que el debate sobre la superinteligencia podría desviar la atención de las ambiciones expuestas en la encíclica, alentar a las personas a ceder su voz a un pequeño grupo de matemáticos, informáticos y directivos de grandes empresas. «Lo primero que necesitamos son frenos y un volante», concluye Benanti. «Eso significa que los seres humanos deben tener un control significativo sobre la máquina».