Shallowfake e deepfake, os riscos para o brasileiro nas eleições

Em uma eleição cuja reta final é marcada por trocas de acusações, exploração de escândalos políticos do oponente e montagens para atingir o brasileiro mais incauto, duas técnicas de manipulação de áudios e vídeos têm preocupado campanhas políticas e observadores do Tribunal Superior Eleitoral (TSE): o deepfake e o shallowfake.

Embora os nomes e muitas vezes os objetivos – escusos – sejam os mesmos, a diferença entre o deepfake e o shallowfake é a técnica utilizada para adulterar sons e imagens e enganar o destinatário da mensagem. No primeiro caso, são usados mecanismos de inteligência artificial. No último, uma refinada edição de falas e imagens.

A shallowfake mais famosa nesta eleição foi a que a apresentadora do Jornal Nacional Renata Vasconcellos aparece divulgando uma falsa pesquisa de intenção de votos supostamente registrada pelo Ipec e que mostraria o presidente Jair Bolsonaro (PL) na liderança da corrida à reeleição, o que nunca aconteceu. O caso é de shallowfake, segundo o especialista em tecnologia Bruno Sartori, porque foram usados áudios antigos de Renata pronunciando números usados na falsa pesquisa, como os 45% atribuídos a Bolsonaro, sem o uso de inteligência artificial. “No caso do JN temos uma edição com softwares de edição tradicionais, por isso não é deepfake. Não utilizou inteligência artificial para criar algo que se passasse por real. Trata-se de um conteúdo que foi reeditado para tirar do contexto original”, diz Sartori.

Criado a partir de técnicas de inteligência artificial, o deepfake é mais sofisticado e utiliza programas de computador e até criação de avatares para desenvolver do zero uma mensagem falsa. Estudos da empresa holandesa Deeptrace com dados de 2019 mostram que 96% das deepfakes criadas são utilizadas para pornografia, com distorções que simulam a voz e até mesmo alteram os rostos nos vídeos.

No espectro político, um deepfake recente envolveu um suposto discurso de rendição do presidente da Ucrânia Volodymyr Zelensky. Nele, o adversário de Vladimir Putin dá orientações para as tropas ucranianas para abandonar as armas e se render ao Exército russo. Ao contrário do vídeo atribuído a Renata Vasconcellos, na verdade a voz de Zelensky foi fabricada a partir de programas de computador, que também simulam os movimentos dos lábios do mandatário.

“A má intenção está em todos os lugares e tudo vai de como cada um usa a inteligência artificial. Um atirador de elite das forças de segurança e um bandido usam a mesma ferramenta. Não podemos dar espaço para quem desvirtua o trabalho”, diz Sartori sobre o deepfake. Até o segundo turno, Sartori pretende desenvolver “deepfakes do bem”, com figuras populares como o Papa Francisco, dando um alerta em português sobre a apropriação da tecnologia para fazer o mal.