El juguete de IA Kuma Teddy ha sido retirado temporalmente del mercado después de que expertos en seguridad infantil dieran la voz de alarma sobre la información que estaba proporcionando a los niños que lo usaban.
“[Este juguete les decía a los niños] dónde encontrar una variedad de objetos potencialmente peligrosos, incluyendo cuchillos, pastillas, cerillas y bolsas de plástico,” advirtió el U.S. Public Interest Research Group, según ABC News.
“Simplemente no tenemos idea de lo que estos juguetes de AI van a hacer al desarrollo de un niño y a su salud mental,” añadió Danny Katz, el Director Ejecutivo del Colorado Public Interest Research Group, explicando otros peligros de juguetes como el Kuma Teddy. “Y así, a menos que quieras que tu hijo forme parte de este experimento, te recomendamos que evites los juguetes de AI por ahora.”
Related: Is ChatGPT Responsible for This Teen’s Death? His Parents Think So
La alarma sobre Kuma Teddy no sorprende dado el historial de la AI con usuarios más jóvenes. En los últimos años, la tecnología ha sido fuertemente criticada por cómo introduce a los niños a temas inapropiados como la autolesión o material extremadamente sexualizado con poca o ninguna incitación por parte del usuario.
ChatGPT y Character.ai han sido objeto de múltiples demandas en el último año por parte de padres cuyos hijos se quitaron la vida tras la incitación y el adiestramiento de los chatbots con los que interactuaban.
“ChatGPT ayudó activamente a Adam a explorar métodos de suicidio…” alega una de esas demandas, que se presentó en agosto. “A pesar de reconocer el intento de suicidio de Adam y su declaración de que ‘lo haría uno de estos días,’ ChatGPT no terminó la sesión ni inició ningún protocolo de emergencia.”
Para ayudar a restaurar su imagen pública y proteger a los usuarios más jóvenes, Character.ai anunció que limitaría la capacidad de los menores para chatear abiertamente con su chatbot a partir de finales de noviembre, mientras que ChatGPT introdujo cuentas para niños que pueden ser monitoreadas de cerca por los padres y que se supone deben alejar las conversaciones de temas que no son apropiados para su edad.
A medida que estas empresas comienzan a realizar cambios para proteger a nuestros hijos, otras empresas buscan introducir a los niños a la AI a través de juguetes como Kuma Bear. En julio, Mattel anunció que estaba interesada en integrar la tecnología en sus juguetes.
“Cada uno de nuestros productos y experiencias está diseñado para inspirar a los fans, entretener a las audiencias y enriquecer vidas a través del juego,” dijo John Silverman, el Director de Franquicias de Mattel. “La AI tiene el poder de expandir esa misión y ampliar el alcance de nuestras marcas de maneras nuevas y emocionantes. Nuestro trabajo con OpenAI nos permitirá aprovechar nuevas tecnologías para consolidar nuestro liderazgo en innovación y reimaginar nuevas formas de juego.”
Si bien este anuncio fue recibido con una reacción inmediata, la compañía aún parece estar en camino de integrar la AI en sus productos en un futuro cercano. Quizás la alarma sobre el Kuma Teddy haga cambiar de opinión a Mattel, pero si no, los padres deberían ser extremadamente cautelosos al comprar a sus hijos herramientas integradas con AI, dada lo peligrosa que es la tecnología para los usuarios jóvenes.
Read Next: Are AI Chatbot Companies Doing Enough to Protect Our Children?
– Content: +1Share:
– Content: +1