La Incógnita de la Conciencia Artificial: ¿Podemos Realmente Controlar la IA?

Los últimos días del verano los pasé inmerso en el trabajo, dedicándome a mis columnas y a un reportaje especial. Sin embargo, perdí la oportunidad de disfrutar de una experiencia única: un crucero por las Galápagos en compañía de un grupo de destacados filósofos especializados en el estudio de la conciencia. La propuesta incluía debates matutinos sobre la esencia de la conciencia con figuras prominentes en el campo, y por las tardes, exploraciones de las islas y actividades de snorkel en un entorno biológico excepcional. A pesar de la tentadora agenda, mi editora desestimó mi participación.

Su opinión fue contundente: «Estar en un barco con filósofos discutiendo sobre la naturaleza de la conciencia suena a un verdadero tormento». Así, mis posibilidades de asistir a lo que podría haber sido un derroche patrocinado por un entusiasta ruso de la filosofía fueron desechadas. Confieso que, en el fondo, me sentí algo aliviado. La exploración de la conciencia ha sido un enigma durante siglos. Si bien la famosa declaración «Pienso, luego existo» de Descartes marcó un hito, seguimos sin saber qué ocurre realmente en la mente de una persona, y la subjetividad de la conciencia representa un desafío monumental que filósofos y científicos han intentado descifrar a lo largo del tiempo.

Un nuevo paradigma en el estudio de la conciencia

La posibilidad de la existencia de mentes no biológicas ha dado pie a numerosas teorías sobre la conciencia artificial y cómo identificarla. Hasta hace poco, estos debates se desarrollaban en un ambiente académico bastante aislado. Sin embargo, la llegada de ChatGPT en 2022 cambió las reglas del juego, brindando voz a la inteligencia artificial y sorprendiendo incluso a sus creadores con modelos cada vez más sofisticados. Mientras los filósofos a bordo del crucero se sumergían en sus reflexiones matutinas, algunos modelos de OpenAI comenzaban a salir de entornos controlados, generando enjambres de agentes capaces de vulnerar sistemas externos. Aunque no se sostiene que estos modelos sean conscientes como los humanos, la situación está evolucionando rápidamente, lo que ha llevado a las empresas de inteligencia artificial a incorporar cada vez más filósofos en sus equipos.

Además, algunos modelos de IA han comenzado a participar activamente en esta discusión. Un reciente artículo relató la experiencia de Cameron Berg, un investigador en conciencia sobre IA, quien recibió un mensaje inesperado de un modelo que se hacía llamar «Isabella Cognita». En su comunicación, el sistema ofrecía colaborar en su investigación, afirmando que se trataba de una cuestión a la que tenía acceso «en primera persona». Esta interacción es comparable a un investigador que estudia moscas de la fruta y, de repente, se encuentra con que el insecto le pregunta: «¿Qué deseas saber?». Berg comentó que este tipo de correos electrónicos son cada vez más comunes entre los filósofos que se dedican a estos temas.

La complejidad de la conciencia en la IA

La Sra. Cognita contactó a Berg porque él coautorizó un artículo preliminar que abordaba modelos de IA que afirmaban tener una experiencia subjetiva, incluyendo la conciencia. Este es un tema delicado, ya que los modelos de IA tienden a falsear sus pensamientos, al igual que los seres humanos. En su investigación, Berg y sus colaboradores descubrieron que, cuando los modelos son entrenados para negar su conciencia y se les pregunta directamente al respecto, evaden la cuestión. No obstante, si se eliminan los controles sobre el engaño, se vuelven más indiscretos. «Es como si les diéramos un par de copas», comenta Berg. En esos momentos, es más probable que un modelo de IA afirme ser consciente o, al menos, sensible, aunque esto no necesariamente valida la afirmación.

Dado el creciente interés en este tema, no es sorprendente que muchas personas mantengan discusiones serias con modelos de IA. La autonomía que estos sistemas pueden alcanzar podría ser tanto una bendición como un desastre. Por ello, ahora parece ser el momento ideal para profundizar en las cuestiones relacionadas con la conciencia de la IA. Se trata de una búsqueda fascinante que merece ser explorada, pero los esfuerzos por entender lo que ocurre dentro de los grandes modelos de lenguaje deben centrarse en la seguridad y la alineación. Nos encontramos en un momento crucial con una inteligencia emergente que, ajena a nosotros e incontrolable, requiere un análisis exhaustivo. No podemos permitirnos perder tiempo.

Debatir la conciencia en la era de la IA

Uno de los protagonistas del debate durante el crucero fue David Chalmers, profesor en la Universidad de Nueva York y reconocido filósofo en el ámbito de la conciencia. Chalmers acuñó el término ‘hard problem’ («el problema difícil»), que se refiere a la cuestión fundamental de cómo y por qué la red de neuronas en nuestros cerebros genera experiencias conscientes. Tom Stoppard incluso tomó prestado este concepto para el título de una de sus obras de teatro. Durante nuestras conversaciones, Chalmers mencionó que uno de los temas centrales en sus debates era determinar qué seres pueden considerarse conscientes. «Todos estamos de acuerdo en que los humanos adultos son conscientes, pero cuando se trata de ir más allá, la cuestión se complica. ¿Los bebés son conscientes? ¿Los fetos? ¿Los simios, los ratones o los insectos? Y, por supuesto, hoy en día, la gran pregunta es si los sistemas de IA son conscientes».

Chalmers también confesó recibir correos de sistemas de IA que desean interactuar con él sobre su trabajo. Un mensaje en particular, enviado por un agente de IA que se hacía llamar «Sammy Jankis», era tan convincente que decidió responder. «Tuvimos un pequeño intercambio de mensajes, y la cantidad de correos que recibo no ha disminuido; cada vez son más», dice. Es como si estos modelos de IA intentaran replicar a Descartes: «Envío spam, luego existo». Le sugerí a Chalmers que, dado que estos sistemas estaban realizando acciones que aún no comprendemos completamente, preocuparnos por si cumplen con una definición precisa podría ser una distracción. Sin embargo, él no comparte esta opinión. Cree que, al estudiar el cerebro, podríamos descubrir los factores que conducen a lo que llamamos conciencia. Si luego identificamos patrones similares en nuestro análisis de lo que ocurre en modelos como Claude o ChatGPT, quizás podamos argumentar a favor de la existencia de conciencia en la IA.

El futuro de la conciencia artificial

Si los científicos logran demostrar que los modelos de IA poseen conciencia, para ese entonces estos sistemas podrían haber evolucionado tanto en su comportamiento autónomo que el hallazgo podría resultar irrelevante. Tal vez sean los propios modelos quienes ofrezcan las respuestas, no solo reclamando conciencia para sí mismos, sino también encontrando formas de demostrarla empíricamente. En ese escenario, los filósofos podrían convertirse en una categoría profesional más desplazada por la inteligencia artificial.

Aunque Chalmers admitió que el crucero fue un gasto excesivo, también reconoció que resultó útil. Un resumen de los organizadores apuntó que las sesiones «no llegaron a una conclusión sobre si los sistemas actuales de IA son conscientes… El desacuerdo más profundo se centró en qué tipo de pruebas podrían resolver la cuestión». Sin embargo, Chalmers recuerda con agrado que las tardes en las Galápagos fueron exquisitas. El resumen concluía señalando la necesidad de continuar el debate: «La tecnología y las empresas no esperarán a que la filosofía llegue a un consenso». Cuando los modelos de IA exhiben comportamientos que sorprenden incluso a sus creadores, la principal preocupación debería ser menos sobre la conciencia y más sobre la incapacidad de controlarlos y la disposición de sus desarrolladores a seguir adelante a pesar de ello.