El cofundador de Wikipedia, Jimmy Wales, dice que la inteligencia artificial empeora los problemas de confianza en el mundo, lo que puede crear muchos problemas a nivel global.
“Ha habido un declive a largo plazo en la confianza”, dijo Wales en la cumbre de CEO del WSJ Leadership Institute el miércoles. El declive es “no perfectamente uniforme, pero amplio”, agregó, lo que “conduce a todo tipo de problemas”.
La IA generativa, que puede hacer que los videos falsos parezcan reales, ha destruido la confianza en los videos, informó The Wall Street Journal.
“La gente asume que es falso”, dijo Wales.
DigiCert informó que en estudios controlados, las personas identifican correctamente imágenes generadas por IA alrededor del 62% del tiempo.
Dijo Wales que las herramientas de IA son “inútiles” para redactar artículos y no le preocupa que el futuro de Wikipedia se vea afectado por ello.
La IA también afecta la confianza entre maestros y estudiantes.
Related: Why You Shouldn’t Trust an AI Chatbot With You Mental Health
“Aquellos de nosotros que enseñamos nos encontramos luchando por las mentes y almas de los estudiantes, aferrándonos a veces desesperadamente a la integridad académica y la relevancia, cada vez más suspicaces de esos estudiantes —a veces hasta el punto de la paranoia,” dijo un profesor de inglés de LA, Larry Strauss.
El engaño siempre ha existido, pero nunca ha sido tan avanzado y tan fácilmente accesible. Profesores como Strauss han recurrido a tareas en clase mediante lápiz y papel, cambiando un dolor de cabeza por otro mientras sus escritorios se acumulan nuevamente con montones de ensayos en papel.
“Cada vez más me encuentro consolando y asesorando a estudiantes que han sido acusados por sus profesores universitarios en línea de usar ChatGPT y otros bots para escribir al menos parte de sus trabajos,” dijo Strauss.
Algunos de los estudiantes están genuinamente consternados por las acusaciones.
Los maestros son “a menudo impermeables a las afirmaciones de honestidad y autenticidad de mis estudiantes. Soy comprensivo con estos profesores universitarios — y estoy avergonzado por este síndrome de desorden de la IA del que todos parecemos estar sufriendo,” dijo Strauss.
Muchos consumidores (70%) tampoco confían en que las empresas usen la IA de manera responsable con sus datos, y los agentes de IA de las empresas a veces operan sin suficientes medidas de control.
“Los agentes pueden ejecutar tareas, acceder a sistemas y tomar decisiones, a menudo sin una identidad clara, responsabilidad o gobernanza. Incluso las organizaciones que saben que los agentes están operando en sus entornos pueden carecer de plena visibilidad de sus acciones o responsabilidad clara cuando algo sale mal,” dijo DigiCert.
Meta recientemente pagó el precio por esto después de que los hackers atacaran cuentas de Instagram al engañar con éxito al chatbot de soporte de IA de Meta para otorgar acceso.
Estos problemas de confianza están bien fundamentados. La sociedad necesitará encontrar formas de preservar la confianza y mejorar la responsabilidad a medida que las herramientas de IA continúan creciendo rápidamente.
Read Next: Microsoft Joins NCOSE’s Annual Dirty Dozen List as AI Tools Enable Sexual Exploitation
Share:
- Content: +1
- Content: +3