Pesquisa mapeia o racismo em algoritmos e inteligência artificial no país

Uma pesquisa realizada pela Ação Educativa e a REDE Negra em Tecnologias e Sociedade, com o apoio da Fundação Mozilla, aponta que tecnologias digitais que usam procedimentos algorítimicos, automatização e inteligência artificial podem promover a manutenção e até mesmo a intensificação do racismo estrutural no Brasil.

Segundo as informações do estudo, por serem baseadas em dados de larga escala, sem mecanismos de representação adequados que possam atender as complexidades sociais, essas tecnologias podem contribuir para a sustentação do racismo.

O levantamento realizado entre maio e setembro deste ano contou com a colaboração de 113 especialistas no tema, com atuação em diversas áreas, das cinco regiões do país. O estudo mostra que a invisibilidade de pessoas negras e suas ideias sobre tecnologia devem ser consideradas como as principais prioridades antirracistas no meio digital e na sociedade.

Cada entrevistado indicou até cinco respostas para a pergunta “Quais são suas prioridades sobre antirracismo na tecnologia?”. Ao analisar o conteúdo das respostas, os pesquisadores identificaram 18 preocupações em comum – no topo da lista, com 10,8%, aparece a invisibilidade das contribuições negras, afrocentradas e antirracistas na tecnologia. Problemas como falta de diversidade e inclusão; inteligência artificial e algoritimização; vigilância e violência estatal vêm empatados com 9,7% das respostas na sequência.

Quanto ao apagamento da colaboração de pessoas negras, os participantes afirmaram que as tecnologias não são neutras, mas a invisibilidade de suas relações de poder, histórias e controvérsias penalizam a justiça racial. Por consequência, afetam negativamente a superação dos impactos de séculos de racismo

Ao responder sobre a falta de diversidade e de inclusão, seja na produção, desenvolvimento, ideias, análise e/ou controle das tecnologias, os entrevistados apontaram que essa realidade traz enorme prejuízo individual e coletivo para toda a sociedade brasileira.

“Nessa resposta os participantes também ressaltaram que a presença das pessoas negras nesse meio, além de ser escassa, é desproporcional ao tamanho da população no país”, segundo a pesquisa “Prioridades Antirracistas sobre Tecnologia e Sociedade”.