¿Por qué deberíamos cuestionar la normalización de la inteligencia artificial en las aplicaciones?

A inicios de julio, Meta introdujo una nueva funcionalidad en su aplicación de inteligencia artificial que permitía a los usuarios etiquetar cuentas públicas de Instagram y generar imágenes a partir de ellas. Esta decisión, que activó la opción por defecto y requería que los usuarios desactivaran la función si no deseaban usarla, generó un intenso debate entre los usuarios de la plataforma.

Varios creadores de contenido en Instagram reaccionaron rápidamente, compartiendo videos virales que explicaban cómo desactivar la función y manifestando su descontento. Solo tres días después, Meta admitió que «esta función no cumplió con las expectativas» y decidió retirar el etiquetado de Instagram en su chatbot de IA. El creador Sam Sooin Yang, en un video con más de 3 millones de visualizaciones, criticó la decisión de hacer la opción predeterminada, expresando su frustración por la imposición de la inteligencia artificial por parte de las empresas. Esta situación refleja un cambio en la percepción pública hacia la IA generativa, que ha llevado a las compañías de Silicon Valley a implementar estas funciones por defecto.

Reacción rápida del público

La respuesta de los usuarios a la opción de desactivar la nueva función de IA en Instagram fue notablemente rápida y contundente. Thorin Klosowski, activista sénior de seguridad y privacidad en la Electronic Frontier Foundation, destacó la importancia de esta reacción, señalando que duró apenas tres días, lo que podría considerarse un récord para una función de IA generativa. La velocidad del rechazo fue un claro indicativo del descontento generalizado entre los usuarios.

Recientemente, me encontré en una situación similar al desactivar la barra «Pregúntale a Gemini» en mis Documentos de Google, que apareció inesperadamente como parte de mi flujo de trabajo. Este tipo de situaciones se han vuelto comunes en plataformas como Dropbox y LinkedIn, donde he tenido que repetir el proceso de desactivación en múltiples ocasiones.

Privacidad y control en plataformas digitales

Más allá de esta polémica, Meta ha sido criticada por su enfoque en la privacidad. Ben Winters, director de IA y privacidad de la Federación de Consumidores de América, señala que este comportamiento no es exclusivo de la empresa de Zuckerberg, sino que refleja un problema más amplio de falta de regulación en el ámbito de la privacidad en Estados Unidos. Winters también menciona la opción de «Navegación mejorada» de Facebook, que permite rastrear los sitios web visitados en dispositivos móviles, como otra función que podría ser desactivada por los usuarios.

En respuesta a las críticas, Daniel Roberts, portavoz de Meta, aseguró que la compañía ha desarrollado una variedad de ajustes y controles para que los usuarios puedan gestionar su privacidad y personalizar su experiencia en sus plataformas. Sin embargo, expertos como Woodrow Hartzog, profesor de derecho en la Universidad de Boston, advierten que muchas personas tienden a mantener la opción predeterminada. Esto significa que si una funcionalidad está activada por defecto, es probable que los usuarios permanezcan suscritos a ella.

La necesidad de una regulación más robusta

Hartzog cita el artículo 25 del Reglamento General de Protección de Datos (RGPD) de la Unión Europea como un ejemplo a seguir, donde se establece que los sistemas deben diseñarse para recopilar solo la información necesaria. Esta perspectiva enfatiza que, cuando hay opciones que protegen mejor la privacidad, deberían ser configuradas como predeterminadas. Aunque algunos expertos cuestionan la implementación práctica del RGPD, la idea de priorizar la privacidad como norma general es fundamental para mejorar la experiencia de los usuarios en línea.

La inclusión automática en herramientas de IA podría resultar en vulnerabilidades para los usuarios. Los expertos en regulación apuntan a que, aunque existen leyes estatales en lugares como California y Maryland que mejoran la protección de datos, una normativa unificada a nivel federal beneficiaría a los consumidores, quienes a menudo se sienten abrumados por la cantidad de configuraciones relacionadas con la privacidad activadas por defecto. Winters destaca que es responsabilidad del gobierno proteger a los ciudadanos de prácticas abusivas por parte de las empresas.

Implicaciones del diseño tecnológico

Cuando una empresa decide inscribir a un usuario en una herramienta de inteligencia artificial, está tomando decisiones que pueden tener consecuencias significativas. Hartzog señala que considerar la tecnología simplemente como una herramienta puede oscurecer el hecho de que su diseño influye en los resultados. La forma en que se estructura una tecnología puede favorecer ciertos usos sobre otros. Si una empresa suscribe automáticamente a millones de usuarios a una herramienta de deepfake, se corre el riesgo de crear un entorno donde los deepfakes sean cada vez más comunes, una realidad que muchos desearían evitar.