La amenaza emergente de deepfakes podría tener un impacto sin precedentes en este ciclo electoral, planteando serias dudas sobre la integridad de las elecciones democráticas, la elaboración de políticas y nuestra sociedad en general.
Se requiere una nueva agenda ética para la IA en la publicidad política y en los contenidos de las plataformas en línea. Dada la naturaleza transfronteriza del problema, la agenda debe contar con el respaldo de un consenso y una acción globales.
Las comunidades y las personas también pueden actuar directamente estableciendo estándares más exigentes sobre cómo crear e interactuar con el contenido político en línea.
Dentro de unos meses, Estados Unidos elegirá a su 46.º presidente. Mientras algunos se preocupan por si las campañas y la emisión de votos pueden realizarse con seguridad durante la pandemia de COVID-19, otra cuestión es igual de crítica: ¿cuántos votos resultarán de la influencia manipuladora de la inteligencia artificial?
En concreto, la amenaza emergente de deepfakes podría tener un impacto sin precedentes en este ciclo electoral, planteando serias dudas sobre la integridad de las elecciones, la elaboración de políticas y nuestra sociedad democrática en general.
Comprender los deepfakes
Los deepfakes impulsados por la IA tienen el potencial de provocar consecuencias preocupantes para las elecciones estadounidenses de 2020.
La tecnología que empezó siendo poco más que un artilugio capaz de provocar risas para crear vídeos caseros de mezclas se ha visto recientemente potenciada por los avances en IA.
Hoy en día, programas de código abierto como DeepFaceLab y Faceswap permiten a prácticamente cualquiera con tiempo y acceso a la computación en la nube desplegar procesos sofisticados de aprendizaje automático y renderizado gráfico sin ningún conocimiento previo de desarrollo.
Más preocupante aún, la tecnología en sí está mejorando a un ritmo tan rápido que los expertos prevén que los deepfakes pronto podrían ser indistinguibles de los vídeos reales. Los sorprendentes resultados que la IA puede crear hoy en día se deben a avances colosales en un subcampo llamado Redes Generativas Antagónicas. Esta tecnología permite a las redes neuronales dar el salto de la mera percepción a la creación.
Como cabe esperar de una tecnología viral, el número de vídeos deepfake está creciendo de forma exponencial a medida que la continua democratización de la IA y la computación en la nube hacen que los procesos subyacentes sean cada vez más accesibles.
¿Una nueva infodemia?
Como hemos visto durante la pandemia de COVID-19, la propagación contagiosa de la desinformación rara vez requiere más que una apariencia de autoridad que acompañe al mensaje, sin importar lo perniciosos o objetivamente inseguros que puedan ser los contenidos para la audiencia.
Dado lo fácilmente que los deepfakes pueden combinar narrativas e información falsas con fuentes de autoridad fabricadas, tienen un potencial sin precedentes para engañar, desinformar y manipular, dando un significado completamente nuevo a «no creerás lo que tus ojos ven».
De hecho, según un reciente informe publicado por The Brookings Institute, los deepfakes están en camino no solo de distorsionar el discurso democrático, sino también de erosionar la confianza en las instituciones públicas en general.
¿Cómo pueden los deepfakes convertirse en armas electorales?
¿Cómo podrían utilizarse exactamente los deepfakes como armas en unas elecciones? Para empezar, los actores malintencionados podrían fabricar pruebas para alimentar acusaciones falsas y narrativas ficticias. Por ejemplo, introduciendo cambios sutiles en cómo un candidato pronuncia un discurso por lo demás auténtico, lo que podría utilizarse para poner en duda su carácter, su aptitud y su salud mental sin que la mayoría de los espectadores lo sepan.
Los deepfakes también podrían utilizarse para crear contenidos completamente ficticios, incluidas declaraciones polémicas u odiosas con la intención de explotar las divisiones políticas o incluso incitar a la violencia.
No es de extrañar que los deepfakes ya se hayan utilizado en otros países para desestabilizar gobiernos y procesos políticos.
En Gabón, el ejército lanzó un golpe de Estado finalmente fallido tras la publicación de un vídeo aparentemente falso del líder Ali Bongo que sugería que el presidente ya no estaba lo bastante sano para ejercer el cargo.
En Malasia, un vídeo que pretendía mostrar al ministro de Asuntos Económicos teniendo relaciones sexuales generó un considerable debate sobre si el vídeo era falso o no, lo que causó daños a la reputación del ministro.
En Bélgica, un grupo político difundió un deepfake del primer ministro belga pronunciando un discurso que vinculaba el brote de COVID-19 con los daños medioambientales y pedía medidas drásticas contra el cambio climático.
La verdad puede imponerse
Hoy por hoy, estamos lamentablemente mal preparados para hacer frente a los deepfakes.
Según el Pew Research Center, casi dos tercios de la población estadounidense afirman que los contenidos falsos crean una gran confusión sobre la realidad política. Lo que es peor, incluso nuestros mejores esfuerzos por corregir y verificar los contenidos falsos podrían acabar sirviendo únicamente para reforzar la difusión de narrativas falsas.
Para que la IA y la democracia coexistan, debemos asegurar con urgencia una comprensión común de lo que es verdad y crear un entorno compartido de hechos a partir del cual nuestras opiniones divergentes puedan surgir de forma segura.
Lo que más se necesita con desesperación es una nueva agenda ética para la IA en la publicidad política y en los contenidos de las plataformas en línea. Dada la naturaleza transfronteriza del problema, la agenda debe contar con el respaldo de un consenso y una acción globales.
Iniciativas como la del Foro Económico Mundial Uso Responsable de la Tecnología, que reúnen a directivos del sector tecnológico para debatir el uso ético de sus plataformas, son un buen punto de partida.
A nivel más local, los legisladores han empezado a seguir la iniciativa de California para prohibir los deepfakes durante las elecciones e incluso Facebook se ha sumado a la lucha con su propia prohibición de determinadas formas de contenido manipulado y un reto para crear tecnologías que los detecten.
El futuro: ¿hecho o ficción?
Aun así, se puede hacer más.
No necesariamente necesitamos un cambio de paradigma tecnológico o regulatorio para desarmar los deepfakes. En cambio, las comunidades y las personas también pueden actuar directamente estableciendo estándares más exigentes sobre cómo nosotros mismos creamos e interactuamos con el contenido político en línea.
De hecho, a menos que los votantes defiendan por sí mismos los hechos y la verdad en el discurso en línea, será prácticamente imposible impulsar un cambio significativo, precisamente por la subjetividad inherente de las plataformas en línea, que coloca a la realidad en desventaja.
Lo queramos o no, los deepfakes han llegado para quedarse. Pero noviembre de 2020 podría marcar el momento en que adoptemos una postura colectiva frente a las amenazas que plantea la IA antes de que sea demasiado tarde.
