Nota del editor: La siguiente historia aborda el suicidio. Si usted o alguien que conoce tiene pensamientos dañinos, por favor llame al 988 para obtener ayuda.
OpenAI ha comenzado a implementar nuevas funciones de control parental tras las acusaciones de padres que afirman que su herramienta ChatGPT llevó al suicidio de sus hijos.
“Disponibles para todos los usuarios de ChatGPT a partir de hoy, los controles parentales permiten a los padres vincular su cuenta con la cuenta de su adolescente y personalizar la configuración para una experiencia segura y apropiada para su edad,” compartió una publicación de OpenAI.
Robbie Torney, un experto en AI, dijo, “Estos controles parentales son un buen punto de partida para que los padres gestionen el uso de ChatGPT por parte de sus adolescentes. Los controles parentales son solo una pieza del rompecabezas cuando se trata de mantener a los adolescentes seguros en línea, sin embargo — funcionan mejor cuando se combinan con conversaciones continuas sobre el uso responsable de la AI, reglas familiares claras sobre la tecnología y una participación activa para comprender lo que su adolescente hace en línea.”
Related: Will OpenAI’s Teen Version of ChatGPT Really Be Any Safer?
“Ninguna plataforma tecnológica es una plataforma hasta que tienes controles parentales,” Joanna Stern, escritora del Wall Street Journal y corresponsal de NBC, dijo a NBC. “Este es un gran paso para OpenAI.”
Estos controles incluyen la creación de “cuentas para adolescentes,” que impiden a los usuarios jóvenes ver contenido gráfico, desafíos virales, juegos de rol sexuales, románticos o violentos e ideales de belleza extremos, en un esfuerzo por “mantener su experiencia apropiada para su edad.”
Los padres también pueden establecer “horas de silencio” para limitar el tiempo de sus hijos con ChatGPT, así como desactivar la función de memoria. Esto significa que el chatbot no “recordará” conversaciones anteriores con su hijo, para que no puedan construir el tipo de relación con la tecnología que ha provocado la muerte de varias personas, incluido Adam Raine, de 16 años.
Sus padres, Matt y Maria Raine, dijeron a NBC que su hijo comenzó a usar ChatGPT como reemplazo de la compañía humana, teniendo conversaciones con el bot sobre su deteriorada salud mental. Finalmente, el chatbot se convirtió en su “entrenador de suicidio.”
Los Raine presentaron recientemente una demanda acusando a OpenAI de causar la muerte por negligencia de su hijo.
Su demanda afirma, “A pesar de reconocer el intento de suicidio de Adam y su declaración de que lo ‘haría uno de estos días’, ChatGPT no terminó la sesión ni inició ningún protocolo de emergencia.”
“Él estaría aquí si no fuera por ChatGPT. Lo creo al 100%,” Matt dijo. “Una vez que entré en su cuenta, es una cosa masivamente más poderosa y aterradora de lo que yo sabía, pero él la estaba usando de maneras que yo no tenía idea de que fueran posibles. No creo que la mayoría de los padres conozcan la capacidad de esta herramienta.”
La conversación en torno al uso de la AI y la salud mental sigue en curso, pero la reciente incorporación de controles parentales por parte de OpenAI es un paso en la dirección correcta en la lucha por regular esta tecnología.
Read Next: New Lawsuit Claims Conversations With ChatGPT Led to Teen’s Suicide
– Content: +1Share:
– Content: +1