Maquiavel

Por José Benedito da Silva

A política e seus bastidores. Com Laísa Dall'Agnol, Victoria Bechara, Bruno Caniato, Valmar Hupsel Filho, Isabella Alonso Panho e Ramiro Brites. Este conteúdo é exclusivo para assinantes.

Continua após publicidade

Brasil

Polícia apura uso de IA para falsificar voz de Tarcísio em golpes em SP

Governo paulista e Procon alertaram para ameaça que circula nas redes sociais

Por Bruno Caniato 13 set 2024, 11h50

Tarcísio de Freitas (Mônica Andrade/Governo do Estado de SP/.)

O governo de São Paulo alertou nesta sexta-feira, 13, para um vídeo fraudulento que circula nas redes sociais utilizando uma falsa gravação do governador Tarcísio de Freitas (Republicanos). Segundo a assessoria do estado, a voz do político foi replicada por meio de inteligência artificial (IA) para aplicação de golpes.

Nas publicações, que circulam pelas plataformas Instagram e Facebook, Tarcísio aparece anunciando uma suposta decisão do Procon de São Paulo que teria multado empresas que operam bandeiras de cartão de crédito. O texto alega que clientes dos cartões têm direito à restituição de valores, uma espécie de “cashback”, e orienta o usuário a acessar um link para consultar o dinheiro que podem receber.

O endereço do link, na realidade, leva o usuário a uma reprodução forjada do site do Procon que solicita dados pessoais e bancários para, supostamente, viabilizar o cashback. “O Procon-SP e outros órgãos do Governo de SP não promovem campanhas de cashback de compras de cartão de crédito e recomendam que qualquer mensagem recebida sobre este tema seja denunciada imediatamente para a polícia”, alertam as autoridades do estado.

Em nota, o governo de São Paulo disse que foi aberto um inquérito policial para “apurar uso indevido da IA na falsificação da voz do governador e na execução da fraude”.

Outras figuras políticas também são alvo de fakes

Relatos nas redes sociais sugerem que, ao longo do ano, pelo menos duas personalidades da política brasileira também tiveram as identidades forjadas para aplicar golpes similares: o deputado federal Celso Russomanno (Republicanos) e o coach Pablo Marçal (PRTB), candidato à prefeitura de São Paulo.

Continua após a publicidade

Em ambos os casos, as vozes dos políticos foram recriadas utilizando computadores treinados com conteúdo real, ferramentas conhecidas como “IA generativa”. O volume massivo de imagens e áudios destas figuras disponíveis na internet, que tende a aumentar durante o período eleitoral, propiciam aos robôs uma ampla base de dados para “alimentar” seus algoritmos de geração de conteúdo.

Ainda em fevereiro deste ano, Russomanno utilizou seus canais oficiais para denunciar o golpe. “Se você paga no débito ou no crédito, saiba que não existe cashback (devolução de dinheiro). Golpistas estão usando a minha imagem para divulgar o golpe. Não caia nessa fraude!”, publicou o parlamentar.