En un esfuerzo por salvaguardar a los jóvenes que usan AI, la empresa matriz de ChatGPT, OpenAI, anunció planes para crear una versión del chatbot apta para adolescentes.
“Priorizamos la seguridad por encima de la privacidad y la libertad para los adolescentes; esta es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa”, escribió el CEO de OpenAI, Sam Altman, en una publicación de blog en el sitio web de la compañía.
Compartió que separarán a los usuarios menores de 13 años utilizando “un sistema de predicción de edad para estimar la edad basándose en cómo las personas usan ChatGPT”.
“Si hay dudas, actuaremos con precaución y aplicaremos la experiencia para menores de 18 años por defecto”, escribió. “En algunos casos o países también podemos pedir una ID; sabemos que esto es un compromiso de privacidad para los adultos, pero creemos que es un intercambio que vale la pena.”
Altman también explicó que establecerán reglas diferentes para los chatbots que interactuarán con los jóvenes.
“ChatGPT será entrenado para no entablar conversaciones coquetas si se le pregunta, ni participar en discusiones sobre suicidio o autolesiones, incluso en un entorno de escritura creativa”, escribió. “Y, si un usuario menor de 18 años tiene ideación suicida, intentaremos contactar a los padres del usuario y, si no es posible, contactaremos a las autoridades en caso de daño inminente.”
Altman concluyó: “Estas son decisiones difíciles, pero después de hablar con expertos, esto es lo que creemos que es mejor y queremos ser transparentes en nuestras intenciones.”
ChatGPT developer OpenAI announces new teen safety features, including an age-prediction system and ID age verification in some countries. https://t.co/V05YX6qHLB
— NBC News (@NBCNews) September 16, 2025
Estas nuevas directrices de AI para adolescentes surgen después de que la Comisión Federal de Comercio iniciara una investigación sobre varias empresas tecnológicas, incluida OpenAI, para examinar cómo afectan a los jóvenes.
“Proteger a los niños en línea es una prioridad principal para la Trump-Vance FTC, y también lo es fomentar la innovación en sectores críticos de nuestra economía”, dijo el presidente de la FTC, Andrew Ferguson, en un comunicado.
Un portavoz de OpenAI respondió, diciendo: “Nuestra prioridad es hacer que ChatGPT sea útil y seguro para todos, y sabemos que la seguridad importa por encima de todo cuando se trata de jóvenes. Reconocemos que la FTC tiene preguntas y preocupaciones abiertas, y estamos comprometidos a participar de manera constructiva y responderlas directamente.”
Varios padres también han demandado a otra empresa de AI, Character Technologies, Inc, por su bot Character.AI, que, según afirman, alentó a sus hijos a intentar o cometer suicidio.
“No tenía idea del daño psicológico que un chatbot de AI podría causar hasta que lo vi en mi hijo, y vi cómo su luz se oscurecía”, dijo una madre, identificada como “Jane Doe”, durante una audiencia en Capitol Hill.
Si bien los intentos de OpenAI de hacer sus programas más seguros para los jóvenes, la tecnología sigue siendo peligrosa, tanto para niños como para adultos. Es importante estar consciente de lo que su adolescente está viendo en línea y tener conversaciones sobre cómo mantenerse seguro en internet.
Read Next: Is ChatGPT Responsible for This Teen’s Death? His Parents Think So
– Content: +1Share:
– Content: +1