El término «deepfake» proviene de la tecnología subyacente «aprendizaje profundo», que es una forma de Inteligencia Artificial. Los algoritmos de aprendizaje profundo, que aprenden por sí mismos cómo resolver problemas cuando se les dan grandes conjuntos de datos, se utilizan para intercambiar caras en video y contenido digital para crear medios falsos de apariencia realista.
Existen varios métodos para crear deepfakes, pero el más común se basa en el uso de redes neuronales profundas que involucran codificadores automáticos que emplean una técnica de intercambio de caras. Primero necesita un video objetivo para usar como base del deepfake y luego una colección de clips de video de la persona que desea insertar en el objetivo.
Los videos pueden no tener ninguna relación; el objetivo puede ser un clip de una película de Hollywood, por ejemplo, y los videos de la persona que desea insertar en la película pueden ser clips aleatorios descargados de YouTube.
El codificador automático es un programa de inteligencia artificial de aprendizaje profundo encargado de estudiar los videoclips para comprender cómo se ve la persona desde una variedad de ángulos y condiciones ambientales, y luego mapear a esa persona en el individuo en el video de destino al encontrar características comunes.
Se agrega otro tipo de aprendizaje automático a la mezcla, conocido como Generative Adversarial Networks (GAN), que detecta y mejora cualquier falla en el deepfake dentro de varias rondas, lo que dificulta que los detectores de deepfake los decodifiquen.
Los GAN también se utilizan como un método popular para la creación de falsificaciones profundas, y se basan en el estudio de grandes cantidades de datos para «aprender» cómo desarrollar nuevos ejemplos que imiten lo real, con resultados dolorosamente precisos.
Varias aplicaciones y software facilitan la generación de deepfakes incluso para los principiantes, como la aplicación china Zao, DeepFace Lab, FaceApp (que es una aplicación de edición de fotos con técnicas de inteligencia artificial integradas), Face Swap y DeepNude, que ya se eliminó, una aplicación particularmente peligrosa. aplicación que generó imágenes falsas de desnudos de mujeres.
Se puede encontrar una gran cantidad de software deepfake en GitHub, una comunidad de código abierto de desarrollo de software. Algunas de estas aplicaciones se usan con fines de entretenimiento puro, razón por la cual la creación de deepfakes no está prohibida, mientras que otras tienen muchas más probabilidades de usarse de manera maliciosa.
Muchos expertos creen que, en el futuro, los deepfakes se volverán mucho más sofisticados a medida que la tecnología se desarrolle y podrían presentar amenazas más graves para el público, relacionadas con la interferencia electoral, la tensión política y la actividad delictiva adicional.
Consejos para detectar una deepfake
A medida que la tecnología avanza, la Inteligencia Artificial permite obtener resultados cada vez más realistas. Sin embargo, los mejores consejos para identificarlo son:
- Los algoritmos no son capaces de parpadear en la misma velocidad que un humano. Por lo tanto, una clara señal es verificar si la persona parpadea mucho menos que lo usual.
- En su mayoría, estos videos son una sustitución facial. En consecuencia, es posible encontrar diferencias en la cara y cuello. Esta es una forma sencilla de identificar si un contenido es falso.
- Dado que es una sustitución facial, es posible ver un desenfoque en el interior de la boca.
- Por lo general, este tipo de videos carece de sincronización con el sonido.
- La fuente de la grabación es indispensable para comprobar su veracidad. Si el contexto es poco confiable, posiblemente se trata de otro caso de contenido ultrafalso.
Como siempre, la educación y la capacitación son cruciales para combatir los deepfakes. A pesar de la considerable cobertura de noticias y las inquietudes presentadas por las autoridades, la amenaza de deepfakes aún no ha sido considerada por el público.
En general, existe la necesidad de aumentar la conciencia pública sobre el potencial de mal uso de la IA. Mientras que los deepfakes proporcionan a los ciberdelincuentes nuevas herramientas para la ingeniería social, las empresas y organizaciones deben estar en alerta máxima y establecer planes de concientización en ciberseguridad.
