¿Qué Pasará con los Chatbots de IA que Proporcionan Consejos de Salud Mental a Adolescentes?
Por Colaborador de Movieguide®
La FTC está investigando las prácticas de los chatbots de IA después de que los padres de dos adolescentes demandaran a Character.ai por el contenido al que sus hijos estuvieron expuestos mientras estaban en el sitio.
La demanda, que es la base de la investigación de la FTC, afirmaba que estos adolescentes estuvieron expuestos a contenido hipersexualizado y engañoso mientras hablaban con el chatbot. La Asociación Americana de Psicología (APA) ha escrito una carta en apoyo a las afirmaciones de los padres después de revisar la demanda, coincidiendo en que las conversaciones podrían haber confundido a los niños y haberlos desviado.
“Permitir la proliferación sin control de aplicaciones no reguladas habilitadas por IA como Character.ai, que incluye tergiversaciones de chatbots no solo como humanos sino como profesionales calificados y con licencia, como psicólogos, parece encajar perfectamente dentro de la misión de la FTC de proteger contra prácticas engañosas,” dijo el Dr. Arthur C. Evans, CEO de la APA.
Forbes añadió, “La FTC ha señalado diligentemente que el campo de la IA está plagado de afirmaciones engañosas y falsedades exageradas y que los creadores y promotores de sistemas de IA deben ser cuidadosamente medidos en cómo presentan sus productos de IA.”
Character.ai ha respondido, argumentando que sus usuarios siempre reciben un aviso informándoles que deben tratar todas las respuestas como ficción y que el chatbot de IA no tiene conocimientos, entrenamiento o experiencia especiales.
LEER MÁS: MADRE CREE QUE CHATBOT DE IA LLEVÓ A SU HIJO AL SUICIDIO. LO QUE LOS PADRES NECESITAN SABER.
“Además, para cualquier Personaje creado por usuarios con las palabras ‘psicólogo’, ‘terapeuta’, ‘doctor’ u otros términos similares en sus nombres, hemos incluido lenguaje adicional dejando claro que los usuarios no deben confiar en estos Personajes para ningún tipo de consejo profesional,” un portavoz de Character.ai <a href="https
- Content: +3Share:
- Content: +2