ChatGPT finalmente lanzará una nueva herramienta de detección de edad que ayudará a proteger a los menores. Es un paso en la dirección correcta, pero el tiempo dirá si ofrece toda la protección que los niños realmente necesitan.
“Casi 3/4 de los adolescentes dicen haber hablado con un compañero de AI en el último año”, dijo Gayle King en CBS Mornings. “Los Chatbots… no están diseñados específicamente para niños, y ha habido varias demandas contra empresas de AI a raíz de múltiples suicidios. La Comisión Federal de Comercio también está investigando a algunas de estas empresas sobre el daño potencial a los niños.”
ChatGPT está “construyendo un nuevo sistema de predicción de edad para identificar a las personas menores de 18 años”, dijo la Dra. Marylynn Wei, psiquiatra y consultora de salud mental. “La edad mínima para usar ChatGPT es 13. Así que el sistema de predicción de edad ayudará a los padres a saber que se necesita aprobación parental para acceder a ChatGPT.”
Habrá una cuenta parental vinculada para que los padres puedan ser notificados si su hijo está usando el chatbot para hablar sobre crisis, dificultades y contenido inapropiado.
ChatGPT compartió en un blog: “Estamos construyendo un sistema a largo plazo para entender si alguien tiene más o menos de 18 años, para que su experiencia con ChatGPT pueda adaptarse adecuadamente. Cuando identifiquemos que un usuario es menor de 18 años, será dirigido automáticamente a una experiencia con ChatGPT con políticas apropiadas para su edad, incluyendo el bloqueo de contenido sexual gráfico y, en casos raros de angustia aguda, potencialmente involucrando a las fuerzas del orden para garantizar la seguridad.”
Related: AI Agrees With Everything You Say, and That’s a Problem, Especially for Kids
CyberGuy añadió que los padres también pueden desactivar ciertas funciones y configurar ChatGPT en cómo responde a las preguntas de sus hijos.
“Puedes decirle a la AI que borre el historial de chat del niño para que sepas que quizás no se le alimentan ciertas cosas”, dijo King.
“Los adolescentes eluden esto cambiando su edad y su perfil”. Así que la nueva herramienta “es un sistema de predicción de edad integrado en el algoritmo”, explicó la Dra. Wei.
Meta y YouTube ya han lanzado herramientas similares de predicción de edad. Roblox también está trabajando en la implementación de una herramienta similar.
La Dra. Wei recomienda a los padres que estén atentos a “si… su hijo se está volviendo más retraído socialmente y pasando menos tiempo con sus amigos que antes. Otra cosa es que puede manifestarse en la escuela, como la caída de sus calificaciones y a veces también si simplemente parecen más apagados y pasan mucho tiempo en sus dispositivos y con la AI”, dijo.
“Creo que es un avance en la dirección correcta”, dijo la Dra. Wei sobre la herramienta, “pero queda mucha más investigación por hacer. Realmente es la investigación la que se está poniendo al día con la tecnología en este momento, pero creo que es una dirección útil”.”
Ella señala que los adolescentes más jóvenes son más susceptibles a confiar en la AI, lo que puede llevar a una dependencia emocional poco saludable y a una confianza excesiva.
Los padres necesitan saber “no solo el tipo de plataforma de AI que están usando, sino también cómo están usando la AI es realmente crítico”, dice la Dra. Wei. “Entonces, si los adolescentes la están usando para investigar, para la escuela o para escribir trabajos, todos estos son beneficios realmente buenos. Pero si descubren que están recurriendo a la AI en situaciones de crisis o para apoyo emocional, ahí es donde vemos que proviene gran parte del riesgo”.”
“Monitorear eso es muy difícil, pero tener una conversación abierta y colaborativa es realmente la clave, pero no existe un sistema perfecto”, dijo. “Creo que por eso estas barandillas de seguridad que ahora están incorporadas en la plataforma, serán útiles”.”
Eso es “realmente útil”, añadió el presentador de CBS Mornings, Tony Dokoupil, “especialmente en un mundo donde aproximadamente uno de cada tres adolescentes encuentra las conversaciones con compañeros de AI tan o más satisfactorias que hablar con un adolescente de la vida real”.”
Independientemente de lo que los niños usen en línea, los padres deben entender que tienen un papel permanente en la guía y protección de sus hijos, y eso se aplica especialmente a plataformas en línea como los chatbots de AI y las redes sociales.
Read Next: Is ChatGPT Use Becoming More Common Among School Kids?
– Content: +2Share:
– Content: +2