Deepfake: ¿Qué es y cómo prevenirlo?
Incode
April 25, 2024
April 25, 2024
¿No puedes creer lo que estás viendo? Bueno, probablemente no deberías. Incluso un video de alguien ya no se garantiza que sea real, ya que los “medios sintéticos” con intenciones maliciosas ahora abundan en Internet. Estos deepfakes retratan a celebridades, políticos y personas influyentes en contenido mediático extrañamente creíble, aprovechando su autoridad... pero difícilmente se detienen ahí. ¿Qué son los deepfakes, exactamente? ¿Cómo funcionan? ¿Cómo los podemos detectar? Repasemos algunos ejemplos de deepfake para entender por qué estas estafas son tan efectivas y qué hacer contra ellas.
¿Qué son los deepfakes? Los ejemplos abundan, y la mayoría de los internautas han oído hablar de ellos. Sin embargo, la definición puede ser más compleja de entender. Los deepfakes se crean típicamente usando algoritmos AI (Inteligencia Artificial) y ML (Machine Learning). Pueden referirse a contenido mediático manipulado o completamente sintetizado, produciendo una representación falsa pero altamente convincente de una persona.
Los ejemplos de tecnología Deepfake van desde grabaciones de voz convincentes y videos “tipo filtro” hasta contenido completamente fabricado pero altamente realista. Estos resultados se obtienen a través de inteligencia artificial avanzada y técnicas de aprendizaje automático que sustituyen o superponen los rasgos faciales de una persona sobre los de otra. Estos videos pueden pregrabarse o generarse en tiempo real utilizando una cámara web falsa y una GPU lo suficientemente potente. En otras palabras, incluso es posible conversar con alguien que creemos conocer pero que resulta ser un deepfake. Estos modelos generados por computadora son casi perfectos y, aunque todavía son relativamente raros, indudablemente van en aumento.
Algunos de los ejemplos de deepfake más conocidos involucran a figuras públicas y celebridades. La mayoría son bastante benignos y sirven principalmente para demostrar el potencial de la tecnología, como el video que muestra al jugador de fútbol David Beckham hablando nueve idiomas diferentes con fluidez, o el creado por el comediante Jordan Peele usando aplicaciones fácilmente disponibles, en el que escenificó un “anuncio de servicio público” al superponer su propia boca y su quidaza sobre la del expresidente Barack Obama. Varios ejemplos de videos deepfake accesibles en TikTok también cuentan con Tom Cruise y, a primera vista, parecen relativamente convincentes.
Tristemente, los ejemplos deepfake no se detienen en divertidos videos de imitación de personajes famosos. Los intentos de suplantación de identidad son cada vez más frecuentes, a veces con ramificaciones muy serias. En el caso de una empresa energética con sede en el Reino Unido, el director ejecutivo recibió una llamada telefónica de alguien que creía —sin duda alguna— era su jefe ordenándole transferir 243.000 dólares a un proveedor húngaro. Todo sobre la voz parecía genuino, y no fue hasta que el defraudador solicitó dinero varias veces que fueron desenmascarados.
Los ejemplos de ataques Deepfake son cada vez más frecuentes. Y funcionan porque las personas tienden a confiar en las personas que conocen.
Los primeros ejemplos conocidos de deepfake se remontan a mediados de la década de 2010. Lucasfilm experimentó con la tecnología en 2016, mostrando las semejanza de Carrie Fisher y Peter Cushing superpuestas a otros actores... con un efecto moderadamente convincente. Ya en 2007, el contenido relacionado con adultos se creó utilizando deepfakes de celebridades convencionales. ¿Cómo evolucionó la tecnología deepfake desde entonces? Las inmensas mejoras en los algoritmos de IA llevaron deepfakes del estado de curiosidad divertida, aunque torpe y con muchos recursos, a la de modelos nerviosamente realistas.
La IA (Inteligencia Artificial) y el ML (Machine Learning) están en la raíz de la tecnología deepfake. Los ejemplos pueden considerarse exitosos cuando un algoritmo generativo puede producir imágenes que un algoritmo discriminativo no puede diferenciar de la realidad: esa es la base de un sistema GAN, que ahora es el método predominante para ajustar la creíbilidad de imágenes deepfake, grabaciones de audio y videos. Desde la clonación de la voz de una persona hasta la sincronización de los dientes e imitar los manierismos de alguien, todo es posible gracias a GAN, autocodificadores, algoritmos de procesamiento del lenguaje natural y otras tecnologías aumentadas con IA y ML.
Si bien la mayoría de los ejemplos de deepfake hasta la fecha han sido relativamente benignos, cada vez más se están creando con intención más nefasta. Desde la interferencia electoral hasta la desinformación política como anuncios falsos, discursos de odio, difamación y pornografía no consensuada, los peligros se están extendiendo.
En el caso de los ataques deepfake, ahora también abundan los ejemplos. Éstas van desde el chantaje y el daño reputacional hasta la manipulación bursátil, la suplantación de identidad con la intención de robar cuentas y otros recursos, y más.
Por ahora, saber qué buscar todavía permite detectar deepfakes la mayor parte del tiempo. ¿Cómo detectar un deepfake sin tecnología de detección? Algunos signos revelador incluyen:
Dicho esto, estamos viendo cada vez más convincentes ejemplos deepfake que, en las condiciones adecuadas, son indistinguibles de lo real. Los estafadores cubren sus pistas grabando audio con ruido de fondo sustantivo o bajando la calidad de la imagen para hacer que los detalles sean más difíciles de examinar. Afortunadamente, el software de verificación deepfake está progresando tan rápido como la propia tecnología deepfake. Al combinar la experiencia humana con modelos avanzados de aprendizaje automático y algoritmos de IA, Incode proporciona una eficacia relacionada con deepfake detección de fraude soluciones.
La prevención del Deepfake también debe ocurrir a nivel legal y regulatorio. La actual ausencia de leyes, que se deriva de la falta de conciencia sobre los peligros de la tecnología deepfake, no protege a los ciudadanos y las empresas. Algunos estados están comenzando a emitir regulaciones. Pero por ahora, estar al pendiente y usar tecnología de verificación deepfake siguen siendo los enfoques más sensatos.
El progreso hacia un software eficaz de prevención de deepfake es rápido, y ya se pueden tomar algunas precauciones simples de verificación de deepfake. Por ejemplo, las firmas digitales se pueden utilizar para autenticar a los creadores de contenido. Además, ahora se encuentran disponibles soluciones más avanzadas. Incluyen software de detección impulsado por IA capaz de producir una puntuación de confianza que muestra hasta qué punto se ha manipulado una foto o video, bases de datos de deepfakes existentes que mantienen “huellas digitales” con las que se puede comparar nuevo contenido, y plataformas de detección que se basan en el aprendizaje profundo para identificar medios deepfake buscando malware y firmas de tipo virus.
Si bien muchos se han interesado en el potencial de los ejemplos deepfake para fines de entretenimiento, no se puede negar que la tecnología plantea varias preocupaciones muy reales. Los rápidos avances en IA y aprendizaje automático hablan de un futuro en el que la ilusión es perfecta. Desde la educación hasta la realización de películas y entornos de realidad virtual, la tecnología deepfake podría mejorar una variedad de experiencias.
Sin embargo, existen graves desventajas, ya que el potencial de uso indebido plantea una amenaza significativa. Desde la desinformación hasta la ciberdelincuencia e incluso las comunicaciones interpersonales, dondequiera que la realidad pueda ser manipulada de manera convincente, existen grandes inseguridades sociales. Afortunadamente, el desarrollo de métodos robustos de detección de deepfake está progresando tan rápido como la amenaza misma, y la autenticación de contenido está a punto de convertirse en una piedra angular del consumo de medios digitales. La identidad digital estará en el corazón de las soluciones de verificación, trabajando sin problemas para dar crédito a fotos, videos, grabaciones de audio e incluso interacciones en tiempo real.
Por último, el marco jurídico que rodea el uso de la tecnología deepfake está avanzando de manera radical a medida que el llamado a la acción colectiva está llegando al liderazgo actual. En esta encrucijada en la era digital, las empresas y organizaciones de todo el mundo necesitan adoptar un enfoque proactivo para preservar su relación de confianza, verdad y ética con el mundo en general.
¿Desea explorar nuestras soluciones para proteger su negocio contra la tecnología deepfake? ¡Contáctanos ahora!
%20(1).avif)
