Un mal actor suplantó la identidad del Secretario de Estado Marco Rubio utilizando voz y escritura de IA en un intento de obtener acceso a datos gubernamentales altamente sensibles.
“El actor dejó mensajes de voz en Signal para al menos dos individuos objetivo y, en una instancia, envió un mensaje de texto invitando al individuo a comunicarse por Signal”, dijo el Departamento de Estado, añadiendo que también se suplantó la identidad de múltiples otros funcionarios gubernamentales a través de correo electrónico.
La cuenta falsa “Marco.Rubio@state.gov” fue creada en Signals a mediados de junio, y las suplantaciones comenzaron poco después.
“El Departamento toma en serio su responsabilidad de salvaguardar su información y continuamente toma medidas para mejorar la postura de ciberseguridad del departamento para prevenir futuros incidentes”, dijo un alto funcionario del Departamento de Estado.
Esta no es la primera vez que se utilizan deepfakes de IA para suplantar la identidad de funcionarios gubernamentales. De cara a la temporada electoral más reciente, los expertos advirtieron que la IA podría usarse para manipular a los votantes. Esa advertencia se hizo realidad en mayo de 2024, cuando 20.000 votantes de New Hampshire recibieron una llamada de una suplantación generada por IA de Joe Biden que imploraba a los Demócratas que no votaran.
“Votar este martes solo permite a los Republicanos en su búsqueda de elegir a Donald Trump de nuevo”, dijo la grabación de voz.
“Imagina un mundo donde eso fuera un ataque uno a uno”, dijo el experto en deepfakes de IA Ben Coleman después de estas llamadas. “Donde en lugar de ser pregrabado, fuera realmente en vivo, y en lugar de ser de uno a muchos, fuera uno a uno, donde viniera de tu esposo, tu esposa, tu jefe, diciendo, ‘Hey, Ben, te necesitamos en la oficina a las 6 a.m., sé que es día de votación’. O un funcionario electoral, ‘Hey, estamos moviendo tu precinto, necesitamos que estés al otro lado de la ciudad, a tres horas de distancia’”.
En respuesta al auge de la IA y su capacidad para fomentar el fraude, muchos expertos han instado al Congreso a aprobar leyes que dicten regulaciones estrictas sobre la tecnología antes de que sea demasiado tarde. Si bien se ha avanzado poco con respecto a las suplantaciones de identidad con deepfakes, la legislación ha progresado hacia la prohibición de la pornografía deepfake generada por IA.
Related: How Artificial Intelligence Could Manipulate the 2024 Election Cycle
La Primera Dama Melania Trump convirtió el apoyo a esta legislación en su prioridad número uno al comienzo del segundo mandato del Presidente Trump, y un proyecto de ley que criminaliza la pornografía deepfake llegó al escritorio del Presidente en abril.
“La aprobación bipartidista de hoy de la Ley TAKE IT DOWN es una poderosa declaración de que estamos unidos en la protección de la dignidad, la privacidad y la seguridad de nuestros hijos. Agradezco a los Miembros del Congreso —tanto en la Cámara como en el Senado— que votaron para proteger el bienestar de nuestra juventud”, dijo Melania después de que el proyecto de ley fuera aprobado por la Cámara y el Senado.
La suplantación de identidad de Rubio, sin embargo, revela cuán crítico es tomar medidas drásticas contra los deepfakes de IA en general para proteger al público.
Read Next: Bill Criminalizing Deepfake Pornography Heads to President’s Desk
- Content: +1Share:
- Content: +2