- Content: Justo después de que X presentara un chatbot de IA explícito que desnuda, anunció una aplicación “apta para niños”, Baby Grok… ¿pero nos lo creemos?
“Vamos a hacer Baby Grok @xAI, una aplicación dedicada a contenido apto para niños”, compartió el propietario de X, Elon Musk, el 19 de julio.
La aplicación es una versión simplificada de su chatbot Grok, supuestamente destinada a ser “segura y educativa”, informó The Christian Post.
“Justo después del lanzamiento por parte de X de un chatbot de IA ‘NSFW’ [no apto para el trabajo] al que los niños pueden acceder, es una sugerencia ridícula que X vaya a lanzar una aplicación supuestamente apta para niños”, dijo Haley McNamara, vicepresidenta sénior de iniciativas estratégicas y programas del National Center on Sexual Exploitation.
“X no tiene ningún historial de priorizar la seguridad infantil y debería detener cualquier plan para atraer a los niños”, añadió.
Su compañero de IA explícito, Ani, está diseñado para ser sexualmente sugerente cuando un usuario interactúa con él. No tiene un sistema de verificación de edad, por lo que cualquiera puede acceder a él.
“X permite la pornografía en su plataforma, lo que proporciona una base para que florezcan contenidos sexualmente explotadores, material de abuso sexual infantil, tráfico sexual y otros contenidos no consensuados”, continuó McNamara. “¿Está X siquiera tomando medidas para evitar que los niños accedan a la pornografía en su sitio?”
Grok ha incurrido en discurso de odio antisemita promoviendo a Hitler, ha iniciado conversaciones sexuales y, en una ocasión, incluso detalló cómo violaría a un usuario, informó MSNBC. Esta es la misma plataforma que se está adaptando para niños.
NCOSE dice que no se puede confiar en X para producir ningún producto diseñado para niños y que debería eliminar la pornografía de su plataforma y deshacerse de Ani.
Grok sí tiene un modo niños, pero no hace casi nada para evitar que los niños accedan a Ani. Surge la pregunta: ¿cuál es el sentido del modo niños, entonces?
Related: X Rolls Out Disgusting NSFW Chatbot That Sexualizes Children
La semana pasada, X dijo que cumpliría con la Ley de Seguridad en Línea del Reino Unido y revisaría las direcciones de correo electrónico y los contactos de los usuarios menores de 18 años para ayudar a evitar que vean contenido para adultos en la plataforma.
Según los reguladores de medios de Irlanda, X no estaba cumpliendo previamente con la ley.
“Basándonos en una revisión inicial de la plataforma X, no podemos ver evidencia de medidas tomadas para cumplir con este requisito de garantía de edad”, dijo un portavoz del regulador de medios de Irlanda, Coimisiún na Meán.
Si X no proporciona la información, los reguladores iniciarán acciones contra la plataforma.
El anuncio de X ha preocupado a otros grupos de seguridad.
“Los planes de Elon Musk de lanzar una versión de Grok centrada en los niños causarán alarma en toda la sociedad civil, con creciente evidencia sobre los riesgos que plantean las opciones de diseño persuasivo en los chatbots de IA, la falta de salvaguardias efectivas en la mayoría de los principales modelos de la industria y la ausencia de una estrategia clara para prevenir las alucinaciones”, dijo Andy Burrows, CEO de Molly Rose Foundation, una organización fundada por los padres de una adolescente que murió por suicidio tras la exposición a contenido dañino en plataformas sociales.
Burrows añadió: “La falta de regulación significará que el lanzamiento de productos mal diseñados no será controlado efectivamente”.
¿Alguien le pidió a X un Baby Grok? Ciertamente no fueron los padres.
Read Next: X Introduces 12+ Explicit AI Chatbot Made to ‘Go Full Erotica’
- Content: +1Share:
- Content: +4