A voz e a cara são ambas familiares, mas não pertencem uma à outra. O vídeo, que correu a internet na semana passada, mostra a actriz Jennifer Lawrence a responder a algumas perguntas de jornalistas, e embora a voz seja a sua, a face que se vê é a do actor Steve Buscemi. O vídeo é um exemplo, particularmente bem conseguido, de uma “deepfake”, em que a cara de alguém é como que colocada num corpo que não o seu.

Como seria de esperar na internet, as deepfakes têm tido maior “utilidade” na pornografia, com os rostos de actrizes de Hollywood a serem colocados no corpo de actrizes pornográficas “em acção”, dando aos espectadores a ilusão de estarem a ver Gal Gadot ou Scarlett Johansson a cederem às tentações da carne.

Por enquanto, ainda vai sendo possível identificar as deepfakes, quer a olho nu com as menos sofisticadas, quer com programas que analisam a quantidade de vezes que a pessoa no vídeo pisca os olhos (nenhum destes links é NSFW) Mas à medida que estas forem evoluindo, talvez se torne cada vez mais difícil aferir se um vídeo é real ou uma deepfakes, e o impacto que isso terá nas nossas sociedades será tremendo.

Em primeiro lugar, poderão começar a surgir casos – já começaram – de pessoas a serem chantageadas com a ameaça de divulgação de deepfakes supostamente suas. Em segundo lugar, estes vídeos começarão a criar enormes problemas na vida política.

Imaginemos que alguém cria uma deepfake e fá-la passar como vídeo de campanha de um candidato Democrata nas eleições americanas de 2020, a dizer que tem dúvidas acerca da existência do Holocausto. Ou que, por cá, alguém produz um vídeo que aparente ser de um notável de um qualquer partido a dizer que “o Salazar até nem era assim tão mau como isso”. Se tomadas como reais, tais imagens seriam escandalosas e suficientes – espera-se – para acabar com a carreira política de quem as proferisse.

Se as deepfakes forem suficientemente verosímeis para enganar os nossos cérebros condicionados a “ver para crer”, qualquer figura política estará à mercê da iniciativa de quem tiver a capacidade de usar esta tecnologia para manipular a opinião pública.

Mas imaginemos outro cenário. Imaginemos que, nessas mesmas eleições de 2020 nos EUA, começa a correr online um vídeo de Donald Trump a pedir à Rússia para roubar os emails de Hillary Clinton, ou que quando Paulo Portas se vier a candidatar a Belém, surge um vídeo da sua emproada pessoa a elogiar Hugo Chávez, ou a dizer que “jamais” será ministro. Imaginemos ainda que esses vídeos eram verdadeiros (o que não é difícil, tendo em conta que são).

Numa altura em que as deepfakes forem tão bem feitas que se tornam credíveis, qualquer político confrontado com um vídeo embaraçoso ou incriminatório poderá sempre alegar que esse vídeo real não passa de uma deepfake, instalando-se assim a dúvida de se a prova incontestável de algo pouco abonatório acerca desse candidato não passa afinal de uma manipulação.

Esse é talvez o maior perigo das deepfakes: não tanto o de fazerem falsidades passarem por verdadeiras, mas o de fazerem com que a verdade não venha ao de cima, por se poder sempre alegar que o que estamos a ver, por muito realista que seja, não é real.

Um mundo em que as deepfakes se tornem mais difíceis de detectar será um mundo em que a desinformação imperará, o que porá em perigo a saúde – quando não a sobrevivência – das nossas democracias.

Um mundo em que “nada é verdade e tudo é possível” será um ambiente fértil para o autoritarismo florescer, não tanto por os políticos autoritários serem capazes de manipular as massas até tomarem a verdade por mentira e a mentira por verdade, mas porque um ambiente político e mediático em que termos como esses perdem o seu significado ser aquele em que melhor podem ultrapassar a resistência popular à sua demagogia.

Se as pessoas deixarem de acreditar que é possível saber se algo é real ou falso, se deixarem de acreditar sequer que há meios de se poder verificar a veracidade de algo, tudo será igualmente merecedor de desconfiança. E se passarem a desconfiar igualmente de tudo, atribuindo o mesmo descrédito ao que na realidade é um facto e ao que na realidade é uma mentira ou fabricação, as pessoas não farão qualquer diferenciação entre aquilo que merece crédito e o que não merece.

O que, obviamente, só poderá favorecer os difusores destes últimos: ao se desconfiar de tudo, coloca-se a verdade e a honestidade no mesmo plano da mentira e da fabricação, retirando a quem a elas recorra a desvantagem que ainda vão tendo em relação aos outros.

Num mundo em que não possamos acreditar em nada nem ninguém, porque tudo pode em igual medida ser falso, o que poderemos sentir excepto a maior desconfiança em relação a tudo e todos? E se só poderemos sentir desconfiança, como será possível escapar à sensação de insegurança, e à correspondente predisposição para aceitar um “homem forte” que nos ofereça a promessa de “ordem”?

E quem terá mais vontade de depositar a fé num demagogo que lha peça, e lhe prometa merecê-la, do que um cínico que não acredita em nada? E se basta olhar para o sucesso de figuras como Trump e Putin para percebermos que já assim é hoje, como poderá ser de outra forma numa altura em que “ver” e “crer” se tiverem tornado mesmo incompatíveis?

 O autor escreve de acordo com a antiga ortografia.