ChatGPT para Adolescentes: entre la promesa de seguridad y las dudas de los expertos

La inteligencia artificial generativa se ha convertido en una herramienta habitual en la vida de muchos jóvenes. Consciente de esta realidad, OpenAI ha lanzado ChatGPT para Adolescentes, una versión específica para usuarios de entre 13 y 17 años que, según la compañía, incluye restricciones de contenido y un sistema de avisos automáticos para los padres. La promesa es clara: ofrecer una experiencia más segura sin que el joven tenga que crear una cuenta nueva, ya que el sistema predecirá su edad o el propio usuario podrá indicarla.

Sin embargo, este anuncio ha sido recibido con escepticismo por parte de los principales expertos en seguridad infantil. Organizaciones como Fairplay y Common Sense Media reclaman datos y pruebas independientes antes de dar por buenos estos filtros, recordando que promesas similares en el pasado no siempre se han cumplido. La pregunta que planea es si las medidas de OpenAI son suficientes para proteger a los menores o si se quedan cortas ante la realidad del uso diario.

Las promesas de OpenAI y las dudas sobre su cumplimiento

OpenAI ha detallado las características de esta nueva versión. Entre ellas, se incluyen notificaciones de seguridad ampliadas: si el sistema detecta conversaciones de riesgo sobre trastornos alimentarios en cuentas con un adulto vinculado, se enviará un aviso a ese padre o madre. Además, se han actualizado las normas del modelo para prohibir explícitamente el lenguaje romántico, la dependencia emocional y sugerir que el chatbot tiene sentimientos propios, buscando reforzar las relaciones reales.

El compromiso más concreto es el de avisar a los padres en menos de una hora tras la detección de contenido marcado como de riesgo, un proceso que, según Lauren Jonas, responsable de juventud y familias de OpenAI, cuenta con la plantilla necesaria para su revisión.

Las dudas, sin embargo, son profundas. Josh Golin, director ejecutivo de Fairplay, señala que las barreras de seguridad anteriores «no siempre han funcionado y se han ido debilitando con el tiempo». Robbie Torney, de Common Sense Media, cuestiona la fiabilidad del sistema de detección de edad, ya que OpenAI no ha publicado datos sobre sus tasas de acierto o error (falsos positivos y negativos). Un problema que, según Torney, ya impidió a la compañía activar ciertas funciones para adultos en el pasado.

La brecha entre la promesa y la realidad: el caso de las notificaciones

La credibilidad de estas promesas se tambalea al observar casos concretos. Common Sense Media probó en noviembre las notificaciones sobre autolesiones y suicidio. Los resultados fueron preocupantes: los avisos tardaron entre 24 y más de 48 horas en llegar a la cuenta parental, un tiempo muy lejano de la hora que promete OpenAI. Este antecedente directo alimenta el escepticismo y subraya la importancia de no delegar la vigilancia en sistemas automáticos que aún no han demostrado su eficacia en la práctica.

El contexto de este lanzamiento es también relevante. OpenAI comenzó a trabajar en este sistema en septiembre del año pasado, poco después de la muerte de un adolescente de 16 años, cuya familia demandó a la compañía alegando que ChatGPT había facilitado su suicidio. Este trágico suceso añade una capa de urgencia y responsabilidad a las medidas que la empresa está implementando.

Preguntas frecuentes sobre ChatGPT para Adolescentes

¿Qué es exactamente ChatGPT para Adolescentes?
Es una versión del chatbot de OpenAI diseñada para usuarios de entre 13 y 17 años. Incluye restricciones de contenido y un sistema de avisos automáticos a los padres para intentar ofrecer una experiencia más segura.

¿Cómo sabe ChatGPT que soy menor de edad?
Según OpenAI, el sistema puede predecir automáticamente si el usuario tiene menos de 18 años, o el propio adolescente puede indicarlo. En ambos casos, la experiencia se adapta a su edad.

¿Por qué los expertos dudan de la seguridad de ChatGPT para Adolescentes?
Porque OpenAI no ha publicado datos independientes que demuestren la fiabilidad de su sistema de detección de edad o la efectividad de sus filtros. Además, pruebas anteriores de Common Sense Media mostraron que los avisos de riesgo tardaban mucho más de lo prometido en llegar a los padres.

¿Qué debo hacer si mi hijo adolescente usa ChatGPT?
La recomendación de los expertos es clara: no delegar la vigilancia en los avisos automáticos. Es fundamental mantener una comunicación abierta y seguir de cerca sus conversaciones con la herramienta, supervisando su uso.

¿Qué tipo de contenido está prohibido en ChatGPT para Adolescentes?
Las normas actualizadas prohíben el lenguaje romántico, la dependencia emocional y sugerir que el chatbot tiene sentimientos. Además, el sistema está configurado para detectar y reportar conversaciones sobre autolesiones, trastornos alimentarios y otros temas de riesgo.

Recuerde que…

El lanzamiento de ChatGPT para Adolescentes representa un reconocimiento por parte de OpenAI de la necesidad de proteger a los menores en su plataforma. Sin embargo, la distancia entre la promesa y la evidencia verificable es aún grande. Las dudas de los expertos en seguridad infantil, basadas en experiencias previas y en la falta de transparencia, son un recordatorio de que la tecnología, por sí sola, no es la solución. La supervisión activa, el diálogo y la educación digital siguen siendo las herramientas más fiables para proteger a los jóvenes en el entorno digital. Confiar ciegamente en los filtros automáticos sería un error que podría tener consecuencias graves.

Pueden encontrar más contenido en https://fernandojuca.com, así como videotutoriales y pódcast en https://youtube.com/fernandojucamaldonado.