¿Qué es el deepfake?

Por Yael Rodriguez

La inteligencia artificial cada vez más es una herramienta que más se va implementado en casi todo tipo de tecnología de la información. A través de ella se han creado múltiples herramientas que ayudan a acelerar muchos procesos de creación y edición de muchos tipos de contenidos, desde audio, video, texto y fotografías. Sin embargo, el uso de estas herramientas muchas veces siempre debe de hacerse desde la responsabilidad y el criterio para no hacerle un mal uso que podrían dañar a terceros.

El deepfake es sin duda una de esas nuevas herramientas más polémicas que ha proporcionado el avance de las inteligencias artifíciales porque su uso dado un vuelto al no solo vulneran los datos de una persona, sino que el alterar la imagen de una persona puede tener consecuencias que pueden marcar de por vida.

¿Cómo funciona el deepfake?

El deepfake consiste en la edición de imágenes, audio y video usando la inteligencia artificial. La IA lo que hace es alterar el contenido plasmando los datos recabados para dar la impresión que el material original es genuino, llegando a tener resultados que a simple vista se ven realistas y verídicos.

Antes la IA debe recabar información sobre aquello a lo que se debe plasmar sobre el contenido objetivo. Esto puede ser un banco de imágenes y video de una persona, su rostro, sus movimientos o su cuerpo. En audio esto puede servir para replicar la voz de casi cualquier cosa para recrear casi cualquier audio. Como por ejemplo, escanear la voz de Homero Simpson para poder hacer que pueda cantar una canción de José José.

¿Cómo afecta el uso?

En si el deepfake es una herramienta más útiles que nos ha traído el avance de la inteligencia artificial, en cine por ejemplo se ha usado para rejuvenecer a actores veteranos para que se vean más jóvenes o incluso hacer que actores que han fallecido aparezcan en pantalla.

Sin embargo, muchos de los usos que le han dado a la deepfake pueden llegar a ser contraproducente para muchas personas, compañías y productos. Ya que mientras no existe una regulación sobre su uso, sus limitaciones y sus consecuencias el uso que puede dársele es prácticamente infinito.

En el doblaje ha llegado a ser un problema debido a que se han escaneado miles de voces de actores, teniendo en línea un banco de datos con lo que la gente puede jugar poniéndole la voz de cualquier actor y replicarlo en casi lo que sea. Esto sin el consentimiento de los actores y sus respectivos estudios.

Igualmente sus repercusiones pueden afectar gravemente a la sociedad, pudiéndose incluso a cometer crímenes falsificando audio, video y audios para hacerse pasar otra identidad, así como cometer desde fraudes e falsas acusaciones con material alterado.

El más reciente caso del uso desmedido en el deepfake fue en Corea del Sur donde se varios jóvenes están alterando mediante el deepfake fotos y videos de diversas mujeres para desnudarlas mediante para luego difundirlas en redes sociales, llegando a incluso chantajear a las víctimas para retirar dicho contenido. Este caso no solo es grave por las implicaciones de crear contenido explícito de mujeres, incluyéndose menores, sino por la magnitud del caso contabilizándose casi 300 casos en varios escuelas.

Esto deja muy en claro que el uso y las consecuencias de estás herramienta deben llevarse con mucha responsabilidad y ética, sino que a la falta de concienciación uso y limitaciones de la ley ha provocado que muchas veces los perpetradores salgan impunes.