«La investigadora desafía la percepción de amenaza existencial de la IA y critica a las tecnológicas»

En medio del creciente interés en el sector de la inteligencia artificial (IA), han emergido nuevos términos que marcan el centro del debate sobre su impacto real. Conceptos como «loros estocásticos» y «riesgo existencial» han cobrado relevancia, con una figura prominente en este diálogo: Timnit Gebru. Gebru, reconocida investigadora en el ámbito de la IA, ha demostrado determinación en su lucha contra las injusticias que presenta esta tecnología.

Su notoriedad aumentó tras un conflicto con Google, donde coautorizó un artículo que abordaba los sesgos presentes en la IA de la empresa. En su investigación, argumentó que los grandes modelos de lenguaje (LLM) tienden a repetir los datos de entrenamiento, lo que podría perpetuar prejuicios. Este controvertido estudio resultó en su salida de la compañía y la llevó a fundar un instituto que investiga los efectos negativos de la tecnología y promueve herramientas tecnológicas más justas. Además, Gebru está trabajando en un libro titulado Desaprendizaje profundo: el auge de la IA y la radicalización de una idealista tecnológica, que se publicará a principios del próximo año.

Desafiando la Narrativa del Riesgo Existencial

Recientemente, Gebru ha criticado la perspectiva de ciertos sectores de la industria que sostienen que la IA podría representar una amenaza existencial para la humanidad. Dentro de esta comunidad, algunos, incluyendo a un cofundador de Anthropic, han argumentado que sus investigaciones sobre los loros estocásticos ya no son pertinentes y que la IA tiene la capacidad de «pensar» y razonar. Paradójicamente, sus opiniones sobre los aspectos sectarios del altruismo efectivo en IA la han alineado con grupos de derecha que también critican a estos colectivos.

El debate actual sobre la IA trasciende la mera tecnología; ahora se centra en ideologías y narrativas estratégicas. Gebru sostiene que estas narrativas son distracciones que desvían la atención de los problemas reales que enfrentamos. En una reciente conversación, exploramos qué elementos, según ella, están desviando el enfoque de los debates actuales, así como su respuesta a las críticas sobre su investigación previa.

El Peligro de la Distracción

Lauren Goode, quien dirigió la conversación, inició preguntando a Gebru sobre la reciente renuncia de un joven investigador en Anthropic, quien mencionó un grave riesgo existencial relacionado con la IA. Gebru no dudó en calificar esta narrativa como no solo una distracción, sino también perjudicial. Expresó que este tipo de afirmaciones ha sido reiterado por figuras prominentes como Elon Musk y Peter Thiel desde 2013, creando un ciclo de miedo que podría ser más destructivo que los problemas reales que enfrentamos.

La investigadora destacó el rol de entidades como el Future of Life Institute (FLI), fundado por Max Tegmark y Jaan Tallinn, argumentando que quienes financian estas instituciones también son los que se benefician de la creación de una narrativa de riesgo existencial, lo que genera una contradicción evidente. Al señalar que el discurso sobre la IA como un «dios máquina» es engañoso, Gebru instó a cuestionar las intenciones detrás de tales afirmaciones, sugiriendo que son tácticas para desviar la atención de otros problemas críticos que requieren regulación y atención.

La Necesidad de Gobernanza Efectiva

Durante la conversación, Gebru también abordó el tema de la gobernanza en el ámbito de la IA. Criticó la captura regulatoria que ha permitido que las empresas eludan la responsabilidad, a menudo promoviendo narrativas de cooperación global mientras intentan debilitar las regulaciones que podrían limitar su crecimiento. Propuso que una solución efectiva incluiría la transparencia en la documentación de datos y una mayor responsabilidad por las prácticas de marketing engañosas.

El debate sobre los loros estocásticos se mantuvo como uno de los puntos más candentes de su investigación. Gebru explicó que este término se refiere a la tendencia de los modelos de lenguaje a repetir patrones sin comprender el contexto. La investigación que ella coautorizó aún se cita en la actualidad, y su relevancia se mantiene firme a pesar de las críticas. La falta de comprensión sobre cómo funcionan estos modelos puede llevar a graves errores, tanto en la interpretación de datos como en su aplicación en situaciones críticas, como diagnósticos médicos.

Mirando Hacia el Futuro de la IA

Ante el ruido y las distracciones que dominan el discurso sobre la IA, Gebru concluyó que su principal aprendizaje ha sido la necesidad de enfocarse en construir modelos más justos y responsables, ignorando las distracciones. Su esperanza radica en la creciente resistencia de personas y grupos que buscan crear un futuro alternativo en el ámbito tecnológico, uno que no solo evite la explotación y la destrucción ambiental, sino que también fomente el bienestar comunitario.

En última instancia, Gebru enfatiza la importancia de la acción colectiva y el poder humano para imaginar y construir un futuro mejor, reafirmando su compromiso con una IA más ética y responsable.