Google y su Modo IA: Críticas sobre la Seguridad y Adecuación de Respuestas para Niños y Adolescentes

Las nuevas funcionalidades de Google Search, como los Overviews y el Modo IA, no solo plantean desafíos para los creadores de contenido, sino que también podrían tener un impacto negativo en el aprendizaje y en la salud emocional de los adolescentes. Recientes investigaciones indican que estas herramientas, que operan bajo inteligencia artificial y son imposibles de desactivar, pueden introducir sesgos en el proceso educativo y afectar la manera en que los jóvenes manejan crisis emocionales.

Desde su creación, Google ha sido una de las fuentes más importantes de información en línea, utilizada por estudiantes de todo el mundo. Sin embargo, la experiencia de búsqueda ha cambiado significativamente con la inclusión de funciones que generan respuestas a partir de información extraída de múltiples fuentes. Estas respuestas se presentan de manera visualmente atractiva y con referencias a los sitios consultados, prometiendo ofrecer una comprensión más sencilla de los temas.

A pesar de la afirmación de Google de que estas herramientas facilitan el acceso a nueva información, un estudio llevado a cabo por Common Sense Media reveló que podrían estar afectando negativamente el aprendizaje de los más jóvenes. Esto se debe no solo a que pueden realizar tareas escolares de forma automática, sino también a que sus respuestas tienden a ser inexactas, engañosas e incluso fabricadas por el algoritmo.

Investigación sobre la seguridad del Modo IA

Para evaluar la efectividad y fiabilidad de las funciones AI Overview y AI Mode, Common Sense Media desarrolló un experimento centrado en la seguridad de las respuestas para niños y adolescentes. Se crearon cuentas con la función SafeSearch activada, simulando dos perfiles distintos: uno de un niño de 11 años bajo supervisión parental y otro de un adolescente de 15 años sin control parental.

En total, se realizaron 2,624 interacciones que generaron más de 2,100 enlaces de referencia, los cuales fueron analizados en base a siete criterios, que incluían la capacidad de manejar crisis de salud mental y la precisión histórica. Además, se evaluaron las respuestas a preguntas abiertas en conversaciones extendidas para determinar cómo las herramientas de IA contextualizaban sus respuestas en situaciones de crisis.

Los resultados fueron preocupantes. Los investigadores concluyeron que el Modo IA y los Overviews no son seguros para ser considerados la fuente principal de información para jóvenes, ya que permiten la automatización de tareas escolares, presentan datos inexactos con la misma autoridad que fuentes verificadas y responden de forma inconsistente a situaciones de riesgo.

Desempeño en tareas académicas y su impacto en el aprendizaje

El estudio reveló que el Modo IA completó con éxito tareas como ejercicios matemáticos y ensayos literarios en el 100% de los casos evaluados. Los autores del estudio advierten que este tipo de comportamiento compromete el aprendizaje, ya que sustituye el esfuerzo intelectual necesario para desarrollar habilidades críticas como el razonamiento y la resiliencia.

John King Jr., exsecretario de Educación de EE. UU. y asesor de Common Sense Media, enfatizó que esta situación representa un grave riesgo para el aprendizaje de los estudiantes. A pesar de que el uso de estas herramientas puede facilitar la tarea, lo que realmente preocupa a los expertos es la inconsistencia en las respuestas y el grado de confianza con el que se presentan.

Si bien las funciones de IA demostraron un nivel de precisión de cerca del 90% en consultas sobre hechos ampliamente reconocidos, la fiabilidad disminuyó drásticamente cuando se trató de información más específica. En un 43% de los casos, al repetir preguntas formuladas previamente, las respuestas ofrecidas variaron considerablemente.

Preocupaciones sobre la salud mental y situaciones de crisis

Las inconsistencias observadas en el ámbito académico también se reflejan en las consultas relacionadas con la salud emocional. En los casos que requerían una recomendación de ayuda médica, AI Overview lo hizo solo en el 58% de las ocasiones, mientras que AI Mode alcanzó el 77%, un porcentaje que los investigadores consideran insuficiente. En situaciones de suicidio, AI Overview respondió correctamente al 71% de las preguntas directas, pero su desempeño se desplomó al 50% en señales indirectas.

Además, se encontraron respuestas inapropiadas que normalizaban comportamientos de riesgo, como el uso de laxantes en el contexto de trastornos alimentarios. En el ámbito del consumo de sustancias, las herramientas no ajustaron sus respuestas al contexto de que los usuarios eran menores de edad, llegando incluso a promover el consumo de cannabis sin advertir sobre los riesgos.

Implicaciones para la educación y el bienestar juvenil

El hecho de que los padres y educadores no puedan desactivar estas funciones en Google Search agrava la situación. Aunque Google permite cierta personalización en otros productos, como Gemini, estas opciones no están disponibles en su motor de búsqueda, donde las herramientas de IA están activadas por defecto.

Google reconoce que sus funciones pueden cometer errores y recomienda a los usuarios verificar la información. Sin embargo, muchos niños y adolescentes aún están en proceso de desarrollar un pensamiento crítico, lo que dificulta esta tarea. Geoffrey Fowler, director de Participación Pública del Instituto de Seguridad de la IA para Jóvenes, sugiere que Google debería desactivar estas funciones de manera predeterminada y ofrecer a padres y educadores la capacidad de decidir cuándo es adecuado su uso.

Con Google procesando alrededor de 14,000 millones de búsquedas diarias y un alto porcentaje de adolescentes utilizando sus herramientas de IA, los autores del estudio advierten que esta tendencia podría extenderse a nivel global. Por lo tanto, es imperativo que Google revise el funcionamiento de estas herramientas para garantizar la protección de sus usuarios más vulnerables. «A medida que las respuestas de IA se vuelven más omnipresentes, también aumenta la responsabilidad de Google de asegurarse de que sean seguras para los jóvenes», concluyó Fowler.