Así se hizo el deepfake de los "candidatos" contra la desinformación

Reverso

El proyecto editorial Reverso lanzó un llamativo video deepfake con imágenes de los principales candidatos a presidente en las próximas elecciones generales, para alertar sobre la manipulación de la información.

En el spot aparecen imitaciones de Mauricio Macri (Juntos por el Cambio), Alberto Fernández (Frente de Todos), Roberto Lavagna (Consenso Federal) y Nicolás Del Caño (Frente de Izquierda) que señalan el peligro de la desinformación y la manipulación de imágenes, audios y videos.

El deepfake, una combinación de "aprendizaje profundo" y "falso" por su traducción del inglés, es una técnica de inteligencia artificial que permite editar videos falsos de personas que aparentemente son reales, utilizando para ello algoritmos de aprendizaje no supervisados, videos o imágenes ya existentes.

"Con esta campaña buscamos que más gente sepa que la desinformación existe y que cada uno puede agravar o ayudar a detener el problema. No es un asunto que involucra solo a políticos, medios o empresas tecnológicas, sino a todos. Por eso el mensaje central es: 'la desinformación puede venir de todos lados, que no venga de vos'", sostuvo Laura Zommer, codirectora de Reverso, la iniciativa colaborativa impulsada por Chequeado junto a empresas tecnológicas, agencias y más de 120 medios de todo el país, entre ellos LA NACION, para luchar contra la manipulación de información.

Cómo se hizo

Las tecnologías de deepfake son cada vez más avanzadas y fáciles de utilizar, por lo que permiten que cualquiera con ciertos conocimientos básicos de herramientas digitales pueda generar contenido falso y distribuirlo en las redes.

Para la elaboración de este deepfake se utilizaron unos 40 videos a partir de los cuales se analizó y seleccionó material y se contrastó con 20 fotos de referencia de los candidatos. El proceso de "renderización" o transformación de las imágenes llevó 190 horas. El video estuvo a cargo de la agencia Fit BBDO y la productora Oruga.

"Necesitábamos dejar en claro lo fácil y lo peligroso que es, en términos de desinformación, utilizar este tipo de herramientas. Es por eso que, en vez de denunciarlas, decidimos recurrir a ellas. Así como en el Aikido, usamos su fuerza a nuestro favor para exponer las consecuencias que pueden tener, particularmente en un escenario electoral", explicaron Joaquín Campins y Christian Rosli, directores generales creativos de BBDO.

"El gran desafío para la realización de esta pieza fue el realismo.Para poder lograr rostros realistas tuvimos que utilizar un mix con las técnicas más adecuadas para transformar cada uno de los rostros. Trabajamos con post producción y aplicaciones de IA, ajustes de cámara e imagen, y un casting muy exhaustivo para que no se percibiera el truco en ningún momento. Otro desafío fue el de encontrar la voz adecuada para cada candidato. Fue un trabajo milimétrico pero finalmente logramos materializar una idea que en su esencia tiene un potencial enorme, un mensaje claro y un horizonte definido", señaló Federico Russo, director de Oruga.

Desde el 11 de junio, cuando se lanzó el proyecto, Reverso realizó 139 investigaciones entre las cuales se confirmó la falsedad del video de Patricia Bullrich para hacerla parecer drogada o borracha y la falsa cadena de WhatsApp ue aseguraba que Alberto Fernández había sido diagnosticado con un cáncer de pulmón. Además, entre otras verificaciones, reveló la falsedad de un audio que se le adjudicó a Felipe Solá, pero originalmente era un video en broma del imitador Tarico, quien en el deep fake de Reverso le puso la voz a Macri.

Reverso es el proyecto editorial y colaborativo impulsado por Chequeado junto con AFP Factual, First Draft y Pop Up Newsroom para luchar contra la desinformación durante la campaña electoral. Es una iniciativa federal en la que participan más de 120 medios de 20 provincias y la Ciudad Autónoma de Buenos Aires. En los primeros 4 meses, Reverso produjo 139 investigaciones, 26 videos y 24 audios, que fueron republicadas por medios aliados y no aliados más de 2700 veces, posibilitando que públicos de los más amplios y diversos accedan a información verificada.