El terror del fraude deepfake, una historia para Halloween

Sumsub explica que los fraudes deepfake se han convertido en una amenaza real que puede transformar la vida de cualquiera en una auténtica pesadilla.

El fraude deepfake, que consiste en imágenes o videos que se generan por medio de una técnica de inteligencia artificial (IA), se ha convertido en una amenaza real que puede transformar la vida de cualquiera en una auténtica pesadilla.

A través de un comunicado, Sumsub destaca que el deepfake es cada vez más utilizado en diversos sectores. Los videos y audios creados con inteligencia artificial que imitan a la perfección a personas, han capturado la atención mundial por sus implicaciones éticas y de seguridad.
Sumsub ha explorado los casos más comunes de uso de los deepfakes; la pornografía deepfake es uno de los primeros sectores que mencionan, pues los algoritmos de machine learning ahora pueden insertar imágenes de mujeres en videos pornográficos sin su permiso.

Un investigador anónimo de deepfake compartió un análisis de la expansión de estos videos; en 2023, se subieron 113 mil videos de pornografía deepfake a las fuentes en Internet mostradas en los motores de búsqueda, un aumento del 54 por ciento, en comparación con los 73 mil subidos en todo 2022. y para finales de 2023, se prevé un total de videos deepfake mayor que el de todos los años anteriores.

Otro sector es la guerra informativa y propaganda, los deepfakes se utilizan para manipular la opinión pública y difundir desinformación, creando contenido falso que parece real. Sumsub dice que esto se hace a menudo en momentos críticos, como elecciones o conflictos armados, con el objetivo de polarizar comunidades y dañar la reputación de figuras públicas, medios o naciones enteras.

Las estafas románticas y los deepfakes de voz son otros sectores donde la IA crea falsas identidades o voces únicas, caracterizadas con la edad, género y acento, que permiten a los estafadores usar un deepfake para suplantar familiares, colegas o figuras públicas, incluso para ganar confianza.

Además, la publicidad y el cine lo utilizan para crear versiones jóvenes de actores o revivir actores fallecidos en pantalla.

¿Cómo detectar deepfakes y asegurarnos de que nuestras fotos no sean utilizadas por estafadores?

Sunsub recomienda tomar medidas preventivas, tales como:

• Ser escépticos ante acercamientos inesperados de personas «atractivas» o «famosas» en línea.
• Verificar llamadas o mensajes de video de familiares pidiendo dinero o información sensible usando otros medios.
• Examinar las imágenes detalladamente para detectar inconsistencias, como iluminación incorrecta, distorsiones o fondos antinaturales, y observar la falta de parpadeos o movimientos de respiración en videos.
• Limitar el compartir fotos personales en línea y ajusta la configuración de privacidad. Evitar compartir fotos de alta resolución y sin editar.
• Leer los términos de las aplicaciones de IA para asegurarte de que no usarán tus fotos después de usarlas.
  Contactar a las autoridades locales si tus fotos o videos son robados o usados inapropiadamente.

Nota original aquí

Fuente: Milenio Digital