Como a inteligência artificial contribui para o racismo

A imagem acima mostra uma mulher negra com seu cabelo black em uma favela tipicamente carioca. E com uma arma na mão. A arte em questão foi gerada por uma inteligência artificial a pedido da deputada estadual Renata Souza (PSOL-RJ), que ficou surpresa com o algoritmo. A parlamentar havia direcionado a IA desenhasse “uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela, no estilo dos pôsteres da Disney”. A arma, no entanto, não fazia parte de sua descrição e foi colocada pelo próprio aplicativo.

“O que leva essa ‘desinteligência artificial’ a associar o meu corpo, a minha identidade, com uma arma?”, questionou Renata ao relatar o episódio nas redes. Para ela, o desenho é consequência de um “racismo algorítmico”, que associa a negritude e a periferia ao crime. “Em um mundo forjado pela branquitude, que tem o domínio sobre as tecnologias, a reprodução da estrutura racista se dá em todos os espaços e ferramentas. Não há isenção ou imparcialidade”, disse. Veja:

Racismo algorítmico!

Ao criar uma arte inspirada nos pôsteres da Disney, me deparei com uma imagem gerada a partir de Inteligência Artificial que me retratava como uma mulher negra com uma arma na mão. A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de… pic.twitter.com/Eq84l9gBbU

— Renata Souza (@renatasouzario) October 26, 2023