Polícia apura uso de IA para falsificar voz de Tarcísio em golpes em SP

O governo de São Paulo alertou nesta sexta-feira, 13, para um vídeo fraudulento que circula nas redes sociais utilizando uma falsa gravação do governador Tarcísio de Freitas (Republicanos). Segundo a assessoria do estado, a voz do político foi replicada por meio de inteligência artificial (IA) para aplicação de golpes.

Nas publicações, que circulam pelas plataformas Instagram e Facebook, Tarcísio aparece anunciando uma suposta decisão do Procon de São Paulo que teria multado empresas que operam bandeiras de cartão de crédito. O texto alega que clientes dos cartões têm direito à restituição de valores, uma espécie de “cashback”, e orienta o usuário a acessar um link para consultar o dinheiro que podem receber.

O endereço do link, na realidade, leva o usuário a uma reprodução forjada do site do Procon que solicita dados pessoais e bancários para, supostamente, viabilizar o cashback. “O Procon-SP e outros órgãos do governo de SP não promovem campanhas de cashback de compras de cartão de crédito e recomendam que qualquer mensagem recebida sobre esse tema seja denunciada imediatamente para a polícia”, alertam as autoridades do estado.

Em nota, o governo de São Paulo disse que foi aberto um inquérito policial para “apurar uso indevido da IA na falsificação da voz do governador e na execução da fraude”.

Outras figuras políticas também são alvo de fake news

Relatos nas redes sociais sugerem que, ao longo do ano, pelo menos duas personalidades da política brasileira também tiveram as identidades forjadas para aplicar golpes similares: o deputado federal Celso Russomanno (Republicanos) e o coach Pablo Marçal (PRTB), candidato à prefeitura de São Paulo.

Em ambos os casos, as vozes dos políticos foram recriadas utilizando computadores treinados com conteúdo real, ferramentas conhecidas como “IA generativa”. O volume massivo de imagens e áudios dessas figuras disponíveis na internet, o que tende a aumentar durante o período eleitoral, propiciam aos robôs uma ampla base de dados para “alimentar” seus algoritmos de geração de conteúdo.

Ainda em fevereiro deste ano, Russomanno utilizou seus canais oficiais para denunciar o golpe. “Se você paga no débito ou no crédito, saiba que não existe cashback (devolução de dinheiro). Golpistas estão usando a minha imagem para divulgar o golpe. Não caia nessa fraude!”, publicou o parlamentar.