Deepfakes: las noticias falsas cruzan la línea
Gracias a los avances en Inteligencias Artificial, la manipulación de videos para perjudicar a personajes públicos se convirtió en la moda de momento en Internet. Aquí un “ABC” de esta nueva y perversa tendencia digital.
QUÉ ES
Las noticias falsas son cosa de niños. La nueva forma de mentir, “trolear” y ganar clics se llama “Deepfakes”, videos falsos que superponen el rostro de un personaje famoso en el cuerpo de otra persona, con un nivel de realismo suficiente para engañar a los espectadores y colocar al personaje en una situación inverosímil o denigrante. Utilizan técnicas de Inteligencia Artificial conocidas como “deep learning” para manipular las imágenes y conseguir efectos cómicos o grotescos o, en el peor de los casos, crear información política falsa para manipular a la opinión pública.
PARA QUÉ LO UTILIZAN
Estrellas de cine teniendo sexo. Comenzó con videos de actrices consagradas de Hollywood participando en escenas de porno duro. Gal Gadot (la Mujer Maravilla) fue una de las primeras víctimas, junto con Emma Watson y Jessica Alba.
Líderes políticos defendiendo ideas contrarias. El expresidente Barack Obama apareció en un video calificando como “un completo idiota” a Donald Trump.
Humor, sátira y bromas. El cuerpo y la voz de la actriz Jennifer Laurence apareció la semana pasada con el rostro del actor Steve Bucemi, en un personaje grotesco creado artificialmente. El presidente argentino Mauricio Macri apareció con el bigote y otros rasgos de Hitler fusionados con su cara real durante un discurso.
Cine. Una reciente película de Netflix titulada “Cuenta bloqueada” narra la historia de una mujer víctima de un acosador que crea videos con su cuerpo y cara exactos y ofrece servicios sexuales en una WebCam. Disney utilizó imágenes de la Princesa Leía tomadas de las primeras películas para hacerla aparecer en versiones recientes de su galardonada Star Wars, utilizando a la actriz Ingvild Deila.
TECNOLOGÍA DETRÁS
Manipulación política es uno de los juegos preferidos de los creadores de estas mentiras digitales
Inteligencia Artificial. Con técnicas de “Deep learning”, utilizadas para que el aprendizaje de máquinas, el software utilizado es capaz de mezclar imágenes de la cara de un personaje, con el cuerpo de otro y simular los movimientos de la boca para que parezca que está pronunciando las palabras que se escuchan. Los algoritmos son entrenados para memorizar las características de una fuente de datos, en este caso los gestos de un personaje cuando habla, y puede generar esas expresiones artificialmente en imágenes superpuestas en un video real.
Big Data. Grandes cantidades de información, disponibles públicamente en la Web, ayudan al proceso de creación de deepfakes. Miles de horas de video de personajes públicos son utilizadas por el software para aprender sus gestos y recrearlos.
Software: Las herramientas para hacer este tipo de montajes están al alcance de cualquier usuario. La aplicación FakeApp es utilizada para este propósito. Si se combina con Adobe After Effects, los resultados mejoran notablemente. Cualquiera puede hacer videos de estos y publicarlos, aunque debe dedicar bastante horas a la renderización.
CÓMO IDENTIFICARLO
La buena noticia: Por más Inteligencia Artificial que se utilice, esta técnica es todavía limitada y los videos producidos tienen pobre calidad, así que es relativamente fácil identificar un deepfake. No pueden producir video en alta resolución (4K por ejemplo), pues se notaría inmediatamente el montaje. Sólo pueden producir videos breves en baja resolución.
Lo preocupante: Las Investigaciones en Inteligencia Artificial maduran rápidamente y expertos creen en un futuro cercano las tecnologías para hacer deepfakes serán perfeccionadas y los artificios más difíciles de identificar. Avanzamos hacia una temible plaga de videos falsos en Internet cada vez más difíciles de detectar.
Ojo de águila. Usuarios avanzados, espectadores con el ojo bien educado o expertos informáticos pueden rápidamente saber si un video en legítimo o deepfake. Pero la mayoría de la gente lo ve, cree que es verdad y lo comparte, haciéndolo viral en las redes sociales, y en poco tiempo la mentira es aceptada como verdad en Internet.
QUÉ HACER
La actriz Scarlett Johansson dice que es inútil intentar detener estos fenómenos, de los que ella ha sido víctima varias veces.
El Pentágono. El Departamento de Defensa de estados Unidos puso en marcha una iniciativa para desarrollar plataformas que identifiquen automáticamente los videos deepfake, de cara a los procesos electorales.
Bloquear cuentas. La plataforma en la que se publicaron por primera vez y se masificaron estops videos cerró las cuentas de los autores y los grupos de deepfakes, algunos con hasta cien mil miembros activos.
Nada. Eso dijo la actriz Scarlett Johansson: “es inútil…Internet es un gran agujero negro que se come a sí mismo”.
¿Qué piensas?