Abuso sexual infantil na internet ganha nova escala com avanço da IA
Tecnologia é motor para o agravamento de uma das mais deletérias e persistentes pragas das redes, que deixa marcas duradouras
O ingresso da inteligência artificial (IA) nos vários escaninhos da vida vem chacoalhando conhecidos pilares sobre os quais se finca a sociedade moderna. Se bem empregada, essa revolucionária ferramenta tem o potencial de abrir trilhas para a aquisição de saber e elevar a produtividade, aliando-se à insubstituível inventividade humana. O problema é que ela pode ser — e já está sendo — aplicada por gente mal-intencionada para fins ilegais e altamente nocivos. Um recente relatório da WeProtect Global Alliance, que reúne instituições da União Europeia e dos Estados Unidos para monitorar e combater crimes cibernéticos, acaba de acender um sinal amarelo nesse tão delicado terreno: a IA seria o grande e devastador motor para o agravamento de uma das mais deletérias e persistentes pragas das redes, o abuso sexual de crianças e adolescentes.
Com desdobramentos perversos para quem se vê na mira, esse mal se propaga sob o impulso da produção de imagens forjadas com um inacreditável grau de realismo — sempre de cunho sexual, não raro usadas por criminosas redes de pornografia infantil. A partir de instruções simples fornecidas às plataformas de inteligência artificial, criam-se peças tão verossímeis que é praticamente impossível saber se tratar de montagem. E aí os estragos são incalculáveis. No fim do ano passado, circularam entre alunos de um tradicional colégio do Rio de Janeiro fotos fabricadas com IA de vinte garotas do ensino médio, todas nuas. “Virou um pesadelo”, contou a VEJA F.G., designer de 41 anos, mãe de uma das vítimas, que mantém o anonimato para preservar a filha, de 16. Numa arena em que é relativamente fácil evaporar-se pelos atalhos virtuais, os autores ainda não foram identificados pela polícia, mas já se revelou que eram colegas de turma. “Ouvi de certas pessoas que não passou de uma brincadeira, mas a palavra certa para isso é crime”, indigna-se F.G., que, abalada, evita cutucar o assunto.
Nas profundezas da deep web, o submundo da internet, prolifera uma coleção de aplicativos de “nudificação”, capazes de despir qualquer indivíduo. Robôs operantes em grupos do Telegram oferecem o serviço, cujo impacto se faz demolidor para quem é alvo, por módicos 10 reais — prática que deveria ser banida, penalizando as plataformas, mas não é. Ao contrário, esse material fake acaba por alimentar fóruns que reúnem não só os que espalham as imagens (um show de horrores sem filtros envolvendo até bebês) e os curiosos, mas também pedófilos dispostos a pagar caro para ter mais.
Qualquer estatística nesse universo em expansão é subestimada — as próprias vítimas, por medo e vergonha, preferem se calar. Mas um monitoramento da ONG britânica Internet Watch Foundation ajuda a dar uma dimensão do crescente fenômeno: em um desses ambientes virtuais, o maior dentre milhares, foram rastreadas mais de 20 000 fotos de crianças geradas por IA em um só mês — 3 000 delas logo classificadas como criminosas. As redes sempre foram território fértil sobre o qual grassava o abuso sexual infantil, só que a escala mudou. “A inteligência artificial abre um novo capítulo para esse tipo de abuso”, diz Thiago Tavares, diretor da SaferNet, organização brasileira que recebeu 71 867 denúncias em 2023, um recorde desde o início da série histórica, em 2005 (veja no quadro).
O tema vem ganhando visibilidade ao atingir celebridades mundo afora, que aproveitam os holofotes para mostrar o quão destrutiva é a ação desse pessoal. Um dos casos mais rumorosos do momento é o de Xochitl Gomez, atriz americana de 17 anos que estrelou o filme Doutor Estranho no Multiverso da Loucura. Desde janeiro, a adolescente luta para retirar do ar uma enxurrada de retratos espúrios postados em perfis diversos no X, em que ela aparece despida por obra de IA. O caso ilustra o enrosco que é apagar tais imagens — o X as deleta, aí ressurgem em outro perfil, num jogo de gato e rato que não dá trégua às vítimas. “Quando alguém busca pelo meu nome, não tem jeito: as fotos estão sempre lá”, lamentou a atriz, que não é a única no rol das famosas a sofrer na mão desses abusadores nas redes. As cantoras Miley Cyrus e Selena Gomez, hoje maiores de idade, tiveram recentemente fotografias da fase teen garimpadas e “nudificadas”.
O passo a passo da confecção de uma peça falsa com IA foi dissecado no documentário Another Body (“Outro corpo”, em tradução livre), que pôs o dedo em tão funda ferida e fez o debate aquecer. O maldoso conteúdo muitas vezes nasce a partir de imagens reais, utilizadas para treinar e moldar a IA. Um novo estudo do Observatório da Internet, da Universidade Stanford, nos Estados Unidos, rastreou em uma base de dados pelo menos 3 000 cenas com viés sexual expondo crianças e jovens. As empresas afirmam, oficialmente, que implementaram medidas para evitar que seus sistemas sejam usados para ensejar a pornografia infantil. Na prática, porém, o controle é limitado, já que gente com alguma perícia consegue desbravar outras formas de obter o mesmo resultado. “Muitas vezes reside aí o começo de uma história de abuso sexual”, enfatiza Riana Pfefferkorn, pesquisadora do Observatório.
Lançar na rede imagens sexuais manipuladas é uma modalidade do cyberbullying capitaneada por adolescentes que insistem em atormentar sobretudo meninas, provocando feridas difíceis de curar. “Me senti tratada como um objeto”, conta D.B., de 14 anos, uma das dezoito alunas de um conhecido colégio do Recife que penaram ao ter suas fotos de Instagram despidas artificialmente e postadas para quem quisesse ver. “Foi um choque. Primeiro fiquei triste, mas logo veio a raiva”, relata a jovem, que acabou mudando de escola. Suspeita-se aí de estudantes do próprio colégio, mas a polícia ainda não concluiu as investigações. É comum que as vítimas não se sintam confortáveis para trazer o assunto à baila, o que as faz mergulhar em uma angústia solitária. “A maioria se sente encurralada e teme sofrer represálias se contar aos pais o que está acontecendo”, explica Guilherme Polanczyk, professor de psiquiatria da infância e adolescência da Faculdade de Medicina da USP.
Em janeiro, o FBI emitiu um alerta sobre uma explosão de esquemas movidos por inteligência artificial que escalam um novo degrau — ela também está sendo usada por criminosos para se passarem por meninas, que abordam garotos nas redes propondo uma troca aparentemente ingênua de nudes. Com as fotos em seu poder, esses marginais chantageiam os adolescentes, pedindo vultosas somas , ou ainda mais fotos, para não divulgar o material. Há dois meses, um rapaz de 13 anos, de Palmas, no Tocantins, deixou-se enredar no golpe. Apresentando-se como Barbie, que seria uma garota de 13 anos, aliciadores mantiveram com ele mensagens pelo WhatsApp por mais de uma semana. Desavisado, o jovem enviou dezenas de fotos e vídeos em que aparecia nu na cama e no banho. “Quando descobriu se tratar de um homem adulto, o garoto se fechou e falou até em suicídio”, lembra Mônica Brito, secretária-executiva do Centro de Defesa dos Direitos da Criança e do Adolescente do Tocantins, que acompanha o caso.
A legislação sobre abuso sexual infantil na internet já é bem avançada — o complicador é justamente a ascendente presença da IA. Nos Estados Unidos, onde o fenômeno bate recorde, a lei ainda não contempla especificamente imagens de tal natureza, e muitos juízes blindam os infratores alegando preservar assim o princípio da liberdade individual. Na União Europeia, uma proposta à mesa do setor dedicado à regulamentação de IA prevê que as empresas avaliem o quão nocivas podem ser suas ferramentas antes de levá-las às prateleiras virtuais. No Brasil, mesmo antes do advento da inteligência artificial, o Estatuto da Criança e do Adolescente (ECA) já enquadrava atividades relacionadas a produção, difusão e consumo desse tipo de conteúdo, prevendo reclusão de um e oito anos. Um recém-aprovado projeto de lei na Câmara, que em regime de urgência já altera o Código Penal e o ECA, avança ao dizer pela primeira vez, e com todas as letras, que é vetada a geração de imagens de mulheres nuas por meio de tecnologia. A pena, de dois a quatro anos, se agrava quando a vítima é menor de idade. “A responsabilidade de proteger as crianças não deve ficar só nas mãos dos pais e das plataformas. As autoridades precisam agir já”, reforça Iain Drennan, presidente da WeProtect Global Alliance. Abuso sexual infantil é assunto sério demais para deixar que as máquinas se encarreguem de preservar valores essencialmente humanos.
Publicado em VEJA de 8 de março de 2024, edição nº 2883
Janja muda comportamento e ergue a bandeira branca aos militares
A cena forte que vai ao ar em ‘Renascer’ – e não existia na trama original
Luciano lança música gospel e diz: ‘Não há intolerância religiosa no país’
TSE condena Lula a pagar R$ 250 mil em ação movida por Bolsonaro
PF investiga desvio milionário em conta bancária do governo federal
