El Riesgoso Método de Silicon Valley: Lanzar, Fallar y Borrar en la Prueba de IA

En el transcurso de unas pocas semanas durante este verano, dos de las gigantes tecnológicas de Silicon Valley, consideradas entre las más influyentes a nivel global, lanzaron funciones de inteligencia artificial que fueron rápidamente retiradas tras evidenciarse su potencial para el mal uso.

Retirada de funciones de IA

La herramienta Muse Image de Meta, que permitía a los usuarios generar imágenes mediante inteligencia artificial a partir de cualquier cuenta pública de Instagram, estuvo disponible solo tres días. La compañía optó por desactivarla tras la rápida respuesta del público que evidenció las vulnerabilidades de la aplicación.

Por su parte, Google introdujo una función de generación de imágenes en Google Earth, una plataforma ampliamente utilizada como fuente de evidencia visual. Sin embargo, esta característica también fue retirada después de que periodistas e investigadores demostraran cuán sencillo era crear una representación de una instalación nuclear en Irán o simular una crisis de refugiados en una frontera. Un investigador independiente, Henk Van Es, compartió en su blog cómo logró plasmar en Google Earth a unos refugiados cerca de la frontera entre México y Estados Unidos, así como una central nuclear en Irán y un accidente fatal en Ámsterdam. Sus hallazgos plantearon serias dudas sobre la responsabilidad de Google en la gestión de su herramienta.

El ciclo de la innovación en Silicon Valley

El enfoque típico de Silicon Valley se basa en un ciclo de lanzar, fallar, aprender e iterar. Este modus operandi implica aceptar el fracaso como parte del proceso, ya que muchos errores no pueden ser anticipados ni evitados en un entorno de oficina. Así, las empresas se ven impulsadas a lanzar sus productos, escuchar la retroalimentación y realizar ajustes.

Sin embargo, el concepto de «fracasar rápido» es efectivo solo cuando los errores son costosos de corregir y reversibles, como podría ser el caso de una interfaz con fallos o un cambio necesario en un producto. En el contexto de la inteligencia artificial generativa, las implicaciones de un fallo se extienden mucho más allá de inconvenientes menores. Por ejemplo, la difusión de imágenes satelitales falsas de instalaciones petroleras en llamas durante un conflicto armado puede llevar a la desconfianza en la información visual auténtica.

Las limitaciones de la seguridad en la IA

Los mecanismos de seguridad implementados en la función de Google Earth, como una marca de agua que indicaba la generación por IA y restricciones sobre lo que se podía solicitar, fueron insuficientes. Estas medidas partían de la premisa de que el contenido permanecería en la plataforma, pero los usuarios pudieron eludir estas limitaciones fácilmente mediante capturas de pantalla. Aunque las imágenes generadas por IA contaban con una marca de agua, la necesidad de que los usuarios verificaran su origen a través de otras herramientas como Google Gemini o Lens resultó poco práctica, especialmente considerando la diversidad de usuarios que navegan por las redes sociales.

Reacciones del público ante la IA

Diversos productos y funciones de inteligencia artificial han fracasado en el mercado en los últimos años, pero los casos de Meta y Google son particularmente significativos, dado que los riesgos de sus aplicaciones eran evidentes desde el inicio. En ambos casos, la comunidad identificó rápidamente el potencial de daño que podían causar, lo que pone de manifiesto una crisis más amplia en el ámbito de la IA. A medida que las plataformas compiten por ser las primeras en innovar, parece que muchas han perdido de vista su identidad fundamental.

Google Earth, que se basa en la representación precisa del mundo físico, ya dispone de herramientas de IA útiles que transforman datos en información valiosa para la respuesta ante desastres y decisiones de salud pública. Mientras tanto, Instagram ha evolucionado de ser un simple espacio para compartir momentos personales a convertirse en una plataforma de entretenimiento y comercialización personal. En un entorno donde se manipulan imágenes, cualquier herramienta que permita alterar la representación de un usuario debe ser opcional.

Reflexiones finales sobre el fracaso

La industria puede argumentar que su respuesta fue adecuada al retirar las funciones y aprender de la experiencia. Sin embargo, la indignación pública no puede ser vista como un sistema de seguridad efectivo, especialmente cuando las repercusiones de estos errores pueden perdurar más allá de la propia función. El lema de «fracasar rápido» fue concebido en un contexto donde los errores se limitaban principalmente al software, y esa era ha quedado atrás.