Los 5 principales casos de fraude Deepfake de IA de 2024 expuestos | Blog
Incode
December 20, 2024
December 20, 2024
A partir de un deepfake de Elon Musk convirtiéndose en “el mayor estafador de Internet” a un empleado siendo se ha convertido en una transferencia de más de USD $25 millones, nosotros exponemos cinco de los casos más notables de fraude deepfake de IA (o intento de fraude) a partir de 2024.
Con cada día que pasa, los deepfakes de IA se están convirtiendo más sofisticado y más fácil de acceder, causando casos de Fraude deepfake de IA proliferar.
Más de 1 de cada 4 ejecutivos revelaron que sus organizaciones había experimentado uno o más incidentes de deepfake Fuente: Deloitte
En una encuesta de 2024 realizada por Deloitte, 25,9% de los ejecutivos reveló que sus organizaciones había experimentado uno o más incidentes de deepfake apuntando a los datos financieros y contables en los 12 meses anteriores, mientras 50% de todos los encuestados dijo que ellos esperado un aumento en los ataques durante los siguientes 12 meses.
Apenas el mes pasado, la Red de Cumplimiento de Delitos Financieros (FinCEN) emitió una alerta, FIN-2024-Alert004, para ayudar a las instituciones financieras a identificar esquemas de fraude que utilizan medios deepfake creados con herramientas de inteligencia artificial generativa (GenAI).
FinCen escribió que había “observado un aumento en los informes de actividades sospechosas por parte de instituciones financieras que describen el uso sospechoso de medios de comunicación deepfake en esquemas de fraude apuntando a sus instituciones y clientes” a partir de 2023 y continuando hasta 2024.
Centro de Servicios Financieros de Deloitte predice que GenAI podría habilitar Las pérdidas por fraude alcanzarán los 40 mil millones de dólares en Estados Unidos para 2027.
Más de 2024, casos de fraude deepfake de IA o intentos de fraude han sido titulares en la prensa y resultó en pérdidas de millones de dólares para los objetivos más desafortunados, subrayando la amenaza que esta tecnología representa para las organizaciones y los individuos cuando no existe una seguridad efectiva.
A continuación, exponemos los cinco casos más notables que fueron titulares en 2024. Si aún no está seguro de qué son los deepfakes y cómo funcionan, haga clic aquí para leer un artículo anterior que responderá a todas tus preguntas.
Este año, Videos impulsados por IA que se hacen pasar por imágenes genuinas de Elon Musk se han vuelto virales en línea. En agosto de 2024, The New York Times apodado deepfake “Musk” “el mayor estafador de Internet”.
Steve Beauchamp, un jubilado de 82 años, dijo al New York Times que drenó su fondo de retiro e invirtió USD 690,000 en tal estafa en el transcurso de varias semanas, convencido de que un video que había visto de Musk era real. Su dinero pronto desapareció sin dejar rastro.
“Quiero decir, la foto de él, era él” Steve Beauchamp dijo The New York Times al describir el video deepfake que había visto de Elon Musk.
“Ahora bien, si fue A.I. haciéndole decir las cosas que decía, de verdad no lo sé. Pero en cuanto a la imagen, si alguien hubiera dicho: 'Elíjalo de una alineación', ese es él”. dijo Beauchamp.
Haga clic aquí para aceptar las cookies de marketing y cargar el video.
“Se parecía a Elon Musk, sonaba igual que Elon Musk y pensé que era él”, Heidi Swan dijo Noticias de CBS en un informe de noviembre de 2024, describiendo un anuncio que vio en Facebook y TikTok que la engañó para que enviara a estafadores USD $10,000.
“Todavía se parecen a Elon Musk. Todavía suenan como Elon Musk”, dijo a la publicación noticiosa tras volver a ver los mismos videos que la habían engañado, a pesar de haber aprendido desde entonces que eran falsos.
Solo el 61% de los participantes pudo notar la diferencia entre las personas generadas por IA y las reales. Fuente: *Universidad de Waterloo
Solo esta semana, otra estafa que involucra a un deepfake Elon Musk anunciando un sorteo de criptomonedas de USD $20 millones ha hecho titulares. Publicaciones de todo el mundo han estado advirtiendo a los lectores que es falso.
El La empresa británica de ingeniería Arap fue víctima de un fraude deepfake a principios de 2024, que resultó en una pérdida total de más de 25 millones de dólares.
Durante una videoconferencia a la que asistió deepfakes que se hace pasar por el director financiero de la compañía y otros empleados, un miembro del personal fue embauzado para que realizara 15 transacciones por un total de 200 millones de dólares de Hong Kong (casi 26 millones de dólares de los EE.UU.) a cinco cuentas bancarias de Hong Kong.
El director global de información de Arap en ese momento, Rob Greig, dijo El Guardián:
“Al igual que muchas otras empresas en todo el mundo, nuestras operaciones están sujetas a ataques regulares, incluyendo fraude en facturas, estafas de phishing, suplantación de voz de WhatsApp y deepfakes. Lo que hemos visto es que el número y la sofisticación de estos ataques ha ido aumentando bruscamente en los últimos meses”.
El caso de una llamada robótica generada por IA que se hace pasar por Joe Biden y alienta a los demócratas a no votar en las primarias demócratas de New Hampshire en enero es solo uno de innumerables ejemplos de deepfakes que se utilizan para cometer fraude electoral.
En respuesta, ha habido un impulso continuo para que los gobiernos regulen el uso de dicha tecnología en campañas políticas, dado lo susceptibles que son los votantes a la desinformación. En Estados Unidos, el grupo de incidencia Public Citizen pidió a la Comisión Federal Electoral (FEC) que regule el uso de IA en los anuncios de campaña.
“El momento político de deepfake está aquí” el presidente de Ciudadano Público, Robert Weissman, dijo en un comunicado de prensa. “Los formuladores de políticas deben apresurarse a poner en marcha protecciones o estamos enfrentando un caos electoral”.
“El deepfake de New Hampshire es un recordatorio de las muchas formas en que los deepfakes pueden sembrar confusión y perpetuar el fraude”, dijo Weissman.
Sin embargo, en septiembre de 2024, *la FEC respondió al anunciar que renunciarían a nuevas normas sobre la AI**, citando una falta de autoridad para limitar o prohibir el uso de la tecnología en desarrollo en las elecciones federales.
En agosto de 2024, Reuters informó que Lingo Telecom, el proveedor de servicios de voz que distribuyó las llamadas robóticas generadas por inteligencia artificial a través de números telefónicos “falsificados”, accedió a pagar una multa de USD $1M por su papel en la estafa deepfake de Joe Biden.
Un clip de audio manipulado por IA en el que se escuchó a un director de escuela hacer comentarios despectivos, racistas y antisemitas se volvió viral en línea en enero, por lo que se le puso en licencia administrativa pagada a la espera de una investigación. Una versión del clip acumulada casi dos millones de visitas a las pocas horas de su publicación, el BBC reportados.
La reputación del director Eric Eiswert se vio afectada y pronto comenzó a recibir mensajes abusivos y amenazas de muerte. No obstante, a pesar de los miembros de la comunidad y de la gente de la escuela creyendo que la grabación era genuina, en abril, El jefe de policía de Baltimore, Robert McCullough, confirmado tenían “pruebas concluyentes de que la grabación no era auténtica”.
Los investigadores rastrearon el correo electrónico que se utilizó para enviar el clip manipulado por IA a tres maestros de regreso a Dazhon Darien, de 31 años, el director de atletismo de la escuela, quien había sido investigado por el director Eiswert por un presunto robo de casi USD 2000 de la escuela.
Debido a los “desafíos de desempeño laboral”, era probable que el contrato de Darien no se renovara y por lo tanto la teoría de la policía es que Darien había creado la grabación deepfake para desacreditar al director antes de que el director de atletismo perdiera su trabajo.
Mark Read, CEO de WPP, el grupo publicitario más grande del mundo, fue el objetivo de una elaborada estafa deepfake que utilizó un clon de voz de inteligencia artificial y metraje de YouTube, informó El Guardián.
Usando una imagen pública de Read, ciberdelincuentes crearon una cuenta de WhatsApp para configurar una reunión de Microsoft Teams que parecía estar con Read y otro alto ejecutivo de WPP para un intento de solicitar dinero y datos personales de un “líder de agencia” pidiéndoles que establezcan un nuevo negocio.
Durante la reunión, los estafadores utilizaron un clon de voz y un metraje de YouTube del ejecutivo y se hizo pasar por Read usando la ventana de chat de la reunión.
“Afortunadamente los atacantes no tuvieron éxito”, escribió Read en un correo electrónico enviado al personal y obtenido por El Guardián. “Todos necesitamos estar atentos a las técnicas que van más allá de los correos electrónicos para aprovechar las reuniones virtuales, la IA y los deepfakes”.
Nuestro Tecnología de detección de vida asegura que la persona que se está verificando es una persona viva en 40 milisegundos.
¿Cómo?
El enfoque de múltiples puntas de Incode para identificar la verificación detecta y previene sofisticados intentos de fraude deepfake por...
1.Prevención de ataques de inyección:
Incode detiene el fraude en la raíz. Nuestro SDK o mini aplicaciones móviles nativas evitan la emulación de dispositivos y las cámaras virtuales incluso antes de que comience el proceso de captura.
2. Detección de intentos de fraude deepfake:
La IA detecta señales deepfake que incluyen borrosidad alrededor de la cara, presentación inusual del iris, señales biométricas sutiles, reflexión de la luz, anomalías de textura y más.
3. Verificación contra el Sistema de Registro Gubernamental (GSOR):
Las asociaciones con emisores de identidad gubernamentales permiten verificaciones deterministas para una precisión y confiabilidad inigualables que casi eliminan el fraude.
4.I+D continua para la detección de fraudes con IA:
Un equipo interno utiliza datos en estado salvaje y de prueba para una capacitación continua de IA/ML que produce una detección deepfake probada en batalla contra vectores de fraude sofisticados.
Más información sobre la detección de la vida.
%20(1).avif)
