5 impactantes casos de deepfakes generados por IA que interfiere en la política global
Incode
May 13, 2025
May 13, 2025
Tecnología Deepfake es todo diversión y juegos hasta que cae en manos de un mal actor. Gracias a la continua evolución de los servicios generativos de IA, Los deepfakes son cada vez más accesibles y más sofisticados cada día. A medida que la tecnología continúa evolucionando, cada vez es más difícil para los revisores humanos y los verificadores de hechos profesionales distinguir entre lo que es real y lo que es falso.
Como resultado de ello, los casos de cibercrimen deepfake son cada vez más comunes, con la tecnología deepfake siendo explotada para mejorar las tasas de éxito del fraude de identidad y financiero, difundir información errónea, chantajear a individuos o empresas, manipular la opinión pública, hacerse pasar por marcas, crear contenido explícito de personas que no consientan, llevar a cabo espionaje corporativo, o interferir en la política.
En los últimos años, el mundo ha sido testigo de casos reales de cómo la creciente sofisticación y accesibilidad de la IA pueden erosionar la confianza en los procesos democráticos, con deepfakes que se utilizan para influir en la opinión pública durante las elecciones y influir en los votantes.
Un estudio de 2024 realizado para El Guardián encontró que sólo uno de cada cuatro votantes estadounidenses registrados tiene una fuerte confianza en su capacidad para distinguir entre el contenido visual real y el generado por IA, lo que representa riesgos gigantescos para la integridad de la información en contextos políticos.
Exponemos 5 de los casos más impactantes de la tecnología deepfake que interfiere en la política global.
En marzo de 2022, un video deepfake del presidente ucraniano Volodymyr Zelenskyy dijo a los soldados ucranianos que depongan las armas y rendieran la lucha contra Rusia.
Si bien el video circulaba en las redes sociales, hackers incluso enviaron el falso mensaje Zelenskyy a través de la televisión en vivo. También se publicó en un sitio web de noticias ucraniano antes de ser desacreditado y removido.
Si bien funcionarios de Facebook, YouTube y Twitter dijeron que el video fue retirado de sus plataformas por violar políticas, el video supuestamente fue impulsado en las redes sociales rusas.
“Este es el primero que hemos visto que realmente tiene algunas piernas, pero sospecho que es la punta del iceberg”, dijo Hany Farid, profesora de la Universidad de California, Berkeley que es experta en medios digitales forenses, a NPR cuando ocurrió el incidente en 2022.
En un vídeo publicado en su canal de Telegram, Zelenskyy respondió al video falso diciendo: “Estamos defendiendo nuestra tierra, nuestros hijos, nuestras familias. Entonces no planeamos deponer las armas. Hasta nuestra victoria”.
Si bien la calidad del deepfake 2022 no era muy sofisticada, la tecnología deepfake ha recorrido un largo camino desde entonces, y los deepfakes siguen siendo cada vez más convincentes cada día.
Los investigadores comentaron que la circulación de este tipo de videos podría llevar a la gente a cuestionar la veracidad de los videos reales del presidente Zelenskyy en el futuro.
En octubre de 2024, una red de propaganda alineada con Rusia conocida como Storm-1516 supuestamente orquestó una campaña de desinformación que fabricó y difundió falsas acusaciones acusando Tim Walz de agredir sexualmente a una exalumna durante su mandato como profesor de preparatoria.
Storm-1516 es conocido por crear videos de denunciantes falsos y presuntamente impulsó al menos 50 narrativas falsas antes de las elecciones estadounidenses del 5 de noviembre de 2024. El mismo grupo también estuvo vinculado a falsas afirmaciones de que la exvicepresidenta Kamala Harris perpetró un atropello y fuga que dejó paralizada a una mujer en San Francisco en 2011.
Un video que afirma mostrar a un ex alumno de Walz describiendo abusos por parte del ex entrenador de fútbol se difundió ampliamente en X después de ser compartido por una prominente cuenta anónima promotora de Qanon.
Más tarde se descubrió que el video había sido creado usando IA, sin embargo, eso no impidió que lograra más de 4.3 millones de visitas antes de que fuera eliminado. Si bien la campaña para atacar a Walz es anterior a la publicación del video deepfake, el video provocó que la historia se volviera viral.
En toda Europa, los partidos y activistas de extrema derecha han se utiliza cada vez más el contenido generado por la IA para promover agendas antiinmigrantes y xenófobas.
En Alemania, los miembros del partido Alternativa para Alemania (AfD) publicó contenido generado por IA en línea para impulsar su postura antiinmigración e influir en los votantes antes de la elección del país el 23 de febrero de 2025.
Candidato a ex canciller de extrema derecha Alice Weidel compartió un video generado por IA que presentaba un futuro “idílico” sin inmigración, mostrando una Alemania llena de gente blanca, rubia y de ojos azules, vs un futuro “distópico” regido por la inmigración masiva, en el que Angela Merkel se toma una selfie con una persona de cabello más oscuro y un tono de piel más oscuro.
Incluso ha habido informes de Canciones generadas por IA difundiendo retórica antiinmigración con letras como, “ahora es el momento de ir, los vamos a deportar a todos”, cuyos miembros del partido han sido objeto de fuego por cantar.
¿Qué es lo que hace Alemania por fin? Y es que cada noche, si se ha perdido la CDU, todos los problemas se perdieron, ¿qué se ha corregido usted mismo? Deshalb am 23. Februar #AfD! pic.twitter.com/GE4N16OVvH
— Alice Weidel (@Alice_Weidel) 5 de enero de 2025
En la elección de febrero de 2025, la AfD obtuvo el 20.8% de los votos, llegando en segundo lugar después de la CDU/CSU. El partido de extrema derecha duplicó su participación y logró su mejor resultado en elecciones alemanas a nivel nacional.
Apenas 48 horas antes de que se abrieran las urnas para las elecciones eslovaca del 30 de septiembre de 2023, una grabación de audio deepfake de candidato Michal Šimečka, que dirige el partido liberal Eslovaquia Progresista, y Monika Tódova, del diario Dennik N, discutiendo cómo acurar las elecciones fue publicado en Facebook. En la grabación, las dos voces hablan de comprar votos a la minoría romaní marginada del país.
Aunque Šimečka y Dennik N rápidamente descartaron el audio por ser falso, el vídeo se compartió durante la moratoria preelectoral de 48 horas de Eslovaquia, período en el que se requiere que los medios de comunicación y las figuras políticas guarden silencio.
En consecuencia, las leyes electorales dificultaron el desacreditar públicamente el cargo. Adicionalmente, debido a que se trataba de una grabación de audio —no de un video— se deslizó por una laguna en la política de medios manipulados de Meta, que sólo prohíbe los videos manipulados donde alguien aparece para decir algo que en realidad nunca dijo.
El partido liberal Eslovaquia Progresista de Šimečka perdió las elecciones al partido populista y nacionalista de izquierda SMER.
En enero de 2024, El Guardián informó que más de 100 anuncios de video deepfake que se hacen pasar por el ex primer ministro del Reino Unido, Rishi Sunak, se había pagado para ser promovido en Facebook durante el mes anterior, antes de las elecciones generales de julio de 2024. Uno de los videos, que afirmaba que Sunak requeriría que los jóvenes de 18 años fueran enviados a zonas de guerra activas en Gaza y Ucrania como parte de su servicio nacional, ha cosechado más de 400.000 visitas.
Se gastaron más de 12.929 libras esterlinas (más de 17.000 dólares) en 143 anuncios, originario de 23 países, incluidos Estados Unidos, Turquía, Malasia y Filipinas.
La investigación fue llevado a cabo por Fenimore Harper, una empresa de comunicaciones establecida por Marcus Beard. Beard trabajó anteriormente para el gobierno del Reino Unido para contrarrestar las teorías de conspiración durante la crisis de Covid.
“Con la llegada de la clonación de voz y cara barata y fácil de usar, se necesita muy poco conocimiento y experiencia para usar la imagen de una persona con fines maliciosos”. — Marcus Beard, The Guardian
Más allá de difundir información errónea, los estafadores utilizan cada vez más deepfakes para hacerse pasar por personas reales y manipular sistemas biométricos de verificación de identidad, a menudo para obtener acceso no autorizado a servicios o datos.
Esto se hace a través de un ataque de presentación, cuando un estafador presenta físicamente una biométrica falsa, como un video deepfake, o una iataque de inyección, cuando el atacante pasa por encima de la cámara por completo inyectando un archivo de imagen o video falso directamente en el software de verificación utilizando un emulador o una cámara virtual.
Con herramientas de código abierto e IA generativa, Deepfakes de alta calidad se pueden crear de forma barata y sencilla, reduciendo el costo y el esfuerzo necesarios para cometer fraude de identidad. Esto ha llevado a aumento de la actividad deepfake.
En nuestra encuesta a clientes de 2025, descubrimos que 96,4% de los profesionales de fintech consideran que la falsificación profunda y el fraude de identidad sintético son una preocupación importante. Casi el 30% informó que ellos tenían ocasional o frecuentemente se han encontrado incidentes de deepfake o fraude sintético de identidad en el último año.
Desarrolladas por IA avanzada, las soluciones de verificación de identidad de Incode evolucionan en tiempo real para mantenerse a la vanguardia de las amenazas emergentes, incluido el rápido aumento del fraude impulsado por deepfake.
Analizando inconsistencias de textura, reflejos de luz, patrones de movimiento, y estructura de iris, Incode ofrece protección avanzada contra deepfakes, verificar si la persona que está delante de la cámara está reales y en vivo en tan solo 40 milisegundos.
Incode ha capacitado a más de 35 modelos de ML patentados en un conjunto de datos masivo de más de 5,9 millones de muestras de fraude anotadas. Esto permite a Incode adaptarse de manera proactiva y superar las técnicas de fraude en evolución, incluidas las impulsadas por IA generativa.
Nuestras soluciones verifican si la persona frente a la cámara está real y en vivo:
Incode se detiene más del 99.9% de los ataques de suplantación a través de una amplia gama de vectores, incluidos ambos inyección y presentación ataques.
Programe una demostración ahora para experimentar cómo Incode protege contra el fraude de múltiples ángulos utilizando protección multicapa.
%20(1).avif)
