X, antes conocido como Twitter, ha restringido la capacidad de su chatbot de AI, GROK, para editar imágenes subidas tras una avalancha de personas que comenzaron a usar la herramienta para crear deepfakes sexuales a partir de fotos completamente inocentes.
«La generación y edición de imágenes están actualmente limitadas a los suscriptores de pago. Suscríbete para desbloquear estas funciones», X les dice actualmente a los usuarios que no pagan y que intentan usar GROK para generar o editar imágenes, según Variety.
La decisión de limitar esta función a los suscriptores de pago se tomó después de que el gobierno del UK instara a la junta de supervisión de internet Ofcom a prohibir el sitio web por no tomar medidas contra los usuarios que estaban usando GROK para crear fotos deepfake.
«Esto es vergonzoso. Es repugnante. Y no debe tolerarse… Ofcom cuenta con todo nuestro apoyo para tomar medidas al respecto», el Primer Ministro del UK, Sir Keir Starmer dijo al discutir la inacción de X contra los deepfakes de AI.
Related: Bill Criminalizing Deepfake Pornography Heads to President’s Desk
«Es ilegal. No lo vamos a tolerar», añadió. «He pedido que todas las opciones estén sobre la mesa».
Además de colocar la herramienta detrás de un muro de pago — lo que requiere que los usuarios compartan su identidad para acceder — X también ha declarado que aquellos que usen la herramienta de manera inapropiada recibirán un castigo.
«Tomamos medidas contra el contenido ilegal en X, incluido el Material de Abuso Sexual Infantil (CSAM), eliminándolo, suspendiendo permanentemente las cuentas y trabajando con los gobiernos locales y las fuerzas del orden según sea necesario», X dijo a Variety. «Cualquiera que use o incite a GROK a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal».
A medida que las herramientas de AI se vuelven más potentes, una preocupación inminente es que los malos actores las usen para el mal. Los deepfakes de AI son una de las preocupaciones más comunes, especialmente a medida que la generación de imágenes ha llegado a un punto en el que es muy difícil distinguir las imágenes de AI de la vida real.
Poco después de que el Presidente Trump jurara su cargo para su segundo mandato, la Primera Dama Melania Trump trabajó para impulsar la ley TAKE IT DOWN a través del Congreso, que reescribió las reglas sobre el intercambio de pornografía deepfake en internet, haciendo que las consecuencias de tal acto fueran mucho más sustanciales.
«La aprobación bipartidista hoy de la ley TAKE IT DOWN es una declaración poderosa de que nos mantenemos unidos para proteger la dignidad, la privacidad y la seguridad de nuestros hijos. Estoy agradecida a los Miembros del Congreso —tanto en la Cámara como en el Senado— que votaron para proteger el bienestar de nuestra juventud», Melania dijo después de que se aprobara el proyecto de ley.
Aunque existen leyes similares en el UK y en el resto de Europa, es desalentador que tantos usuarios salgan impunes de este acto y que las empresas solo tomen medidas después de la presión gubernamental. Si bien la restricción de pago para la generación de imágenes ha hecho que X y GROK sean más seguros, la plataforma debería haber tomado medidas mucho antes para combatir estos deepfakes masivos de AI.
Read Next: How One Teen Victim of AI Porn Fights Explicit Deepfakes
– Content: +2Share:
– Content: +1