13/06/2023 | Adlan Chaykin | Michael Barty
Deepfakes, un acrónimo de “deep learning” (aprendizaje profundo) y “fake” (falso), es un tipo de medio sintético en el que una imagen, video o audio de una persona se reemplaza con la imagen de otra persona. El deep learning es un subconjunto del “machine learning” (aprendizaje automático) que implica entrenar redes neuronales artificiales (algoritmos informáticos diseñados para interactuar como las neuronas en el cerebro humano) para permitir que las computadoras aprendan de la experiencia. En otras palabras, consiste en algoritmos que entrenan máquinas para realizar tareas como hablar, el reconocimiento de imágenes y el procesamiento del lenguaje natural.
Deepfakes generalmente usan una red neuronal llamada codificador automático, que comprime una imagen y luego aprende a reconstruir esa imagen, así como redes antagónicas generativas (GAN). Las GANs funcionan generando dos redes y entrenándolas para competir entre sí en forma de un juego de suma cero, donde la ganancia de un lado es la pérdida del otro. Esta competencia permite a las GANs crear imágenes realistas de personas que no existen o producir videos falsos de personas reales.
Desinformación profunda
Aunque la tecnología de deep learning tiene beneficios potenciales en sectores como la atención médica, para mejorar la medicina de precisión y detectar enfermedades, la creciente sofisticación de los deepfakes también ha hecho que sea atractivo para los actores de amenazas para desinformar e influir en las operaciones. En septiembre, el exembajador de EEUU en Rusia, Michael McFaul, tuiteó que alguien con un número de teléfono de Washington DC se estaba haciendo pasar por él con un deepfake. McFaul advirtió que "verán un 'deep fake' generado por IA [inteligencia artificial] que se ve y habla como yo" y sugirió que fue creado para "socavar los esfuerzos diplomáticos y de guerra de Ucrania".
Este año, un video generado por IA que muestra una explosión cerca del Pentágono de EEUU se volvió viral en las redes sociales y fue informado por el medio de comunicación ruso RT, lo que obligó al Departamento de Defensa de EEUU y al departamento de bomberos local a refutar su veracidad. En marzo de 2022, el medio de comunicación y televisión ucraniano Ucrania 24 fue blanco de un ciberataque. Según los informes, los atacantes interrumpieron la transmisión de Ucrania 24 y comprometieron su sitio web para mostrar un video falso del presidente ucraniano Volodymyr Zelenskiy rindiéndose a las tropas del país en medio del conflicto con Rusia. El video circuló en redes sociales antes de ser eliminado de Facebook, Twitter y YouTube. El presidente Zelenskiy se vio obligado a desacreditar el video en redes sociales.
En junio de ese año, los alcaldes de Berlín, Madrid y Viena fueron engañados para que hablaran con un deepfake de su homólogo de Kiev, Vitali Klitschko. En 2021, varios parlamentarios europeos de Letonia, Lituania, Estonia, el Reino Unido y los Países Bajos organizaron videollamadas con un bromista que decía ser una figura de la oposición rusa. El software necesario para generar estos deepfakes sigue estando disponible públicamente en plataformas de código abierto que utilizan los programadores para compartir y publicar código, lo que facilita que los actores moderadamente capaces se dirijan a políticos, celebridades y ejecutivos de empresas con desinformación y estafas de ingeniería social.