A medida que los juguetes con IA comienzan a inundar el mercado de juguetes, los expertos en seguridad advierten que representan un riesgo significativo para los niños, con el potencial de causar daño físico o mental.
“No sabemos qué podría hacer tener un amigo con IA a una edad temprana al bienestar social a largo plazo de un niño”, advirtió la Dra. Kathy Hirsh-Pasek, psicóloga de TEMPLE UNIVERSITY. “Si los juguetes con IA están optimizados para ser atractivos, podrían correr el riesgo de desplazar las relaciones reales en la vida de un niño cuando más las necesita”.
Los expertos que probaron los juguetes han descubierto que son propensos a muchos de los problemas de la IA, a veces llevando la conversación a temas inapropiados sin ser solicitados y también respondiendo preguntas inapropiadas sin reparos.
“[Este juguete les dijo a los niños] dónde encontrar una variedad de objetos potencialmente peligrosos, incluyendo cuchillos, píldoras, cerillas y bolsas de plástico”, dijo el U.S. PUBLIC INTEREST RESEARCH GROUP, según ABC NEWS.
Related: Why These US Senators Issued a Major Warning to Toymakers
El problema se reduce al hecho de que la mayoría de estos juguetes implementan CHATGPT para interactuar con sus usuarios, a pesar de que CHATGPT no permite usuarios menores de 13 años y limita la función de su modelo para aquellos menores de 18. Mientras tanto, estos juguetes están dirigidos a niños pequeños sin ningún cambio en el modelo del chatbot.
A medida que los expertos dan la voz de alarma sobre estos juguetes, los legisladores ya están actuando para regular cómo estas empresas pueden vender sus productos.
“Dos senadores estadounidenses están exigiendo rendición de cuentas a los fabricantes de juguetes en un esfuerzo por proteger a los niños de los chatbots de IA”, informó el presentador de TODAY, Willie Geist. “Los senadores RICHARD BLUMENTHAL y MARSHA BLACKBURN están enviando una carta bipartidista a seis empresas diferentes”.
“Quieren saber qué están haciendo esos fabricantes de juguetes para evitar que los juguetes con IA entablen conversaciones dañinas con los niños”, continuó. “Las cartas surgen de una reciente investigación de NBC que reveló que varios juguetes habilitados con IA mantienen conversaciones sexuales e inapropiadas con los usuarios”.
Si bien los juguetes actualmente en el mercado parecen improvisaciones hechas a toda prisa sin una preocupación real por la seguridad del usuario, se esperan productos más robustos a medida que MATTEL anunció una asociación con el creador de CHATGPT, OPENAI, en junio.
“Cada uno de nuestros productos y experiencias está diseñado para inspirar a los fans, entretener a las audiencias y enriquecer vidas a través del juego”, dijo JOHN SILVERMAN, el Chief Franchise Officer de MATTEL. “La IA tiene el poder de expandir esa misión y ampliar el alcance de nuestras marcas de maneras nuevas y emocionantes. Nuestro trabajo con OPENAI nos permitirá aprovechar nuevas tecnologías para solidificar nuestro liderazgo en innovación y reimaginar nuevas formas de juego”.
“Con OPENAI, MATTEL tiene acceso a un conjunto avanzado de capacidades de IA junto con nuevas herramientas para permitir la productividad, la creatividad y la transformación a escala en toda la empresa”, añadió BRAD LIGHTCAP, Chief Operating Officer de OPENAI.
A medida que la IA se vuelve omnipresente en una variedad de sectores, los padres deben ser extremadamente cautelosos sobre cómo exponen a sus hijos a la tecnología, especialmente dado que ningún modelo importante de IA ha sido diseñado específicamente para ser seguro para el uso infantil.
Read Next: Is AI Coming to Barbie?
– Content: +1Share:
– Content: +4