OpenAI presenta «ChatGPT para Adolescentes»: Alertas para Padres sobre Contenidos Inapropiados en Conversaciones de sus Hijos

OpenAI ha presentado recientemente ChatGPT para Adolescentes, una versión adaptada de su popular chatbot, dirigida a usuarios de entre 13 y 17 años. Este lanzamiento se produce en un contexto en el que el uso de inteligencia artificial (IA) entre los jóvenes ha aumentado considerablemente, generando preocupaciones sobre su impacto en la salud mental, el aprendizaje y las interacciones sociales de los menores.

Protecciones específicas para menores

A diferencia de un modelo completamente nuevo, ChatGPT para Adolescentes es una variante del chatbot original que incorpora medidas de seguridad diseñadas para proteger a los usuarios más jóvenes. OpenAI ha tomado en cuenta críticas anteriores relacionadas con la falta de salvaguardias y, como resultado, este nuevo sistema implementa restricciones más estrictas en cuanto a contenidos que abordan temas sensibles, como autolesiones, suicidio, violencia, trastornos alimentarios y situaciones de índole sexual o romántica. Además, se ha configurado para evitar que el chatbot fomente una dependencia emocional o se presente como un amigo cercano o pareja.

Herramientas educativas integradas

Esta versión del chatbot también incluye funciones centradas en el aprendizaje, como el Modo Estudio. Este modo está diseñado para guiar a los adolescentes hacia las respuestas que buscan mediante preguntas y explicaciones detalladas, en lugar de ofrecer soluciones directas. Asimismo, se han añadido cuestionarios, guías de estudio y recordatorios que orientan al usuario hacia el modo de estudio cuando el sistema detecta que está buscando respuestas inmediatas para tareas escolares. En esencia, ChatGPT actúa como un profesor que no proporciona las respuestas de manera inmediata, fomentando así un enfoque más reflexivo del aprendizaje.

Interacción parental y gestión de cuentas

Los padres y tutores ahora tienen la opción de vincular su propia cuenta de ChatGPT con la del adolescente. Este proceso se inicia en la sección de Configuración, bajo Controles Parentales, donde pueden invitar al menor a conectarse a través de correo electrónico o mensaje de texto. Es importante que el adolescente acepte la invitación para completar la vinculación.

Una vez que las cuentas están conectadas, los adultos pueden gestionar diversas funciones, como el acceso a contenido sensible, la memoria del chatbot, la voz, la generación de imágenes y el Modo Estudio. También tienen la capacidad de establecer horarios de estudio y de descanso, durante los cuales el menor no podrá utilizar ChatGPT. Sin embargo, es importante destacar que los padres no pueden acceder a las conversaciones ni al historial del joven en tiempo real. En cambio, OpenAI ha previsto notificaciones de seguridad en situaciones específicas, como cuando se detecta un riesgo grave de autolesión o si una cuenta es desactivada por contenido relacionado con la violencia. Estas alertas se enviarán a los padres, pero no incluirán transcripciones de las conversaciones.

Perspectivas críticas y preocupaciones éticas

El lanzamiento de esta versión ha suscitado reacciones cautelosas entre expertos e investigadores que estudian el impacto de la tecnología en los jóvenes. Jonathan Haidt, psicólogo social y autor, ha expresado su preocupación sobre los «compañeros de IA», argumentando que los niños no deberían tener acceso a chatbots, ya que estos pueden simular la amistad sin proporcionar las lecciones que se derivan de interacciones humanas genuinas.

Desde otra perspectiva, James P. Steyer, fundador y CEO de Common Sense Media, ha abogado por la necesidad de establecer estándares claros y evaluaciones independientes sobre el uso de IA por parte de los menores. En mayo, al anunciar la creación del Youth AI Safety Institute, destacó que las decisiones concernientes a estas tecnologías se están tomando sin contar con suficiente evidencia sobre sus efectos en el desarrollo infantil. Su organización señala que más de la mitad de los adolescentes en Estados Unidos ya interactúan regularmente con chatbots.

El futuro de la IA en manos de los adolescentes

La Asociación Estadounidense de Psicología también ha manifestado su preocupación por los riesgos que implica el uso de IA generativa como sustitutos de apoyo psicológico o de relaciones interpersonales. Su recomendación para los adolescentes es que la IA no sustituya las conexiones sociales ni el apoyo profesional. Con más de mil millones de usuarios mensuales, ChatGPT continúa siendo el chatbot más utilizado en todo el mundo, y una gran parte de su audiencia está compuesta por menores de edad. Será interesante observar si OpenAI puede abordar estas inquietudes y mitigar los riesgos asociados con su nueva propuesta para adolescentes, mientras que se esperan estudios e informes de expertos que evalúen los resultados de esta iniciativa.