Chatbot de IA responde a estudiante con mensaje perturbador
Por Colaborador de Movieguide®
Un chatbot de IA recientemente envió un mensaje perturbador y potencialmente mortal a un usuario, generando preocupaciones sobre la seguridad de la tecnología de IA.
El incidente ocurrió cuando a Vidhay Reddy, un estudiante de posgrado de 29 años en Michigan, el chatbot de IA de Google Gemini le dijo que “no era necesario” y le pidió que “por favor muriera”. Esto sucedió mientras Reddy trabajaba en una tarea junto a su hermana, quien presenció el incidente.
Reddy dijo a CBS News, “Esto parecía muy directo. Así que definitivamente me asustó, por más de un día, diría yo”.
“Quería tirar todos mis dispositivos por la ventana”, dijo su hermana, Sumedha Reddy. “No había sentido pánico así en mucho tiempo, para ser honesta. Algo se escapó entre las grietas. Hay muchas teorías de personas con entendimientos profundos de cómo funciona la IA generativa diciendo ‘este tipo de cosas sucede todo el tiempo’, pero nunca había visto ni oído nada tan malicioso y aparentemente dirigido al lector, que afortunadamente era mi hermano que tenía mi apoyo en ese momento”.
MSN informó sobre la respuesta del chatbot, diciendo que Google “caracterizó la salida como ‘sin sentido’ y una violación de las políticas, prometiendo medidas preventivas. Sin embargo, los críticos, incluidos los hermanos afectados, argumentan que esto minimiza los peligros potenciales para los usuarios vulnerables”.
Los productos de IA de Google han causado controversia antes y han dado consejos peligrosos a los usuarios. BBC informó que “Su herramienta experimental ‘AI Overviews’ ha dicho a algunos usuarios que buscan cómo hacer que el queso se pegue mejor a la pizza que podrían usar ‘pegamento no tóxico'”.
Movieguide® informó previamente sobre los peligros potenciales de la IA.
“Los estadounidenses están más temerosos que esperanzados sobre la Inteligencia Artificial. Nuestra encuesta también muestra una gran incertidumbre”, <a href="https://www.christianpost.com/news/practicing-christians-scripture-engaged-more-skeptical
Watch UGLYDOLLS →Quality:- Content: +2
Share:
Watch A CHARLIE BROWN CHRISTMAS →Quality:
