PRORROGAMOS! Assine a partir de 1,50/semana
Continua após publicidade

Empresas abandonam reconhecimento facial por identificações equivocadas

IBM, Amazon e Microsoft deixam de lado a tecnologia depois de estudos comprovarem que ela reforça preconceitos raciais

Por André Lopes Materia seguir SEGUIR Materia seguir SEGUINDO Atualizado em 4 jun 2024, 14h11 - Publicado em 19 jun 2020, 06h00

O assassinato do americano George Floyd em uma abordagem policial despertou a urgência do combate a toda e qualquer forma de racismo. Nesse contexto, uma tecnologia que nasceu com a promessa de tornar as cidades mais seguras passou a ser amplamente contestada. Trata-se do sistema de reconhecimento facial, método de identificação de rostos que tem sido acusado não apenas de devassar a privacidade das pessoas como também de reforçar o preconceito racial. Estudos recentes mostram que negros estão mais expostos a erros cometidos por essas máquinas, correndo o risco concreto de ser submetidos à violência de certas autoridades graças a leituras equivocadas feitas pelas câmeras. Em um estudo recente, pesquisadores do Instituto de Tecnologia de Massachusetts (MIT) comprovaram que rostos mais escuros são pouco representados nos conjuntos de dados usados para “treinar” os equipamentos. A mesma pesquisa concluiu que os algoritmos classificaram as mulheres de pele escura como sendo homens em 34,7% dos casos, enquanto o índice de falhas na aferição de homens caucasianos foi inferior a 1%.

As dúvidas a respeito do uso da tecnologia estão levando inúmeras empresas a abandoná-la, congelando um mercado com potencial para movimentar 7 bilhões de dólares até 2024. A IBM foi a primeira. No início de junho, a companhia americana informou que não vai mais desenvolver ferramentas de vigilância em massa em contextos que violem os direitos e liberdades humanas — é exatamente o que ocorre agora. Na sequência, foi a vez da Amazon, empresa do bilionário Jeff Bezos, que proibiu a polícia de usar o seu software Rekognition por um ano. Na quinta-feira 11 de junho, a Microsoft se uniu às rivais e decidiu limitar o acesso das suas ferramentas ao avisar que não venderá a tecnologia até que haja uma lei federal de regulamentação.

ASSINE VEJA

Acharam o Queiroz. E perto demais
Acharam o Queiroz. E perto demais Leia nesta edição: como a prisão do ex-policial pode afetar o destino do governo Bolsonaro e, na cobertura sobre Covid-19, a estabilização do número de mortes no Brasil ()
Clique e Assine

O sistema da Amazon era alvo de dúvidas desde o ano passado. Em um levantamento inédito, a União Americana para as Liberdades Civis testou a assertividade do algoritmo cruzando as fotos de todos os 535 senadores e deputados federais com as imagens de 25 000 criminosos arquivadas num banco de dados. A falha foi discrepante: 28 dos legisladores foram reconhecidos como bandidos, mas nenhum dos parlamentares era foragido da Justiça. Outras pesquisas recentes constataram que máscaras de proteção como as usadas para evitar o contágio pela Covid-19 são capazes de ludibriar os sensores e suspeita-se até que lentes de contato possam fazer o mesmo. O ocaso da tecnologia de reconhecimento facial mostra que a fé cega que em geral se deposita nas inovações — supostamente desenvolvidas a partir de rigorosos preceitos técnicos — pode muitas vezes ser um grande equívoco.

Publicado em VEJA de 24 de junho de 2020, edição nº 2692

Publicidade

Matéria exclusiva para assinantes. Faça seu login

Este usuário não possui direito de acesso neste conteúdo. Para mudar de conta, faça seu login

Black Friday

A melhor notícia da Black Friday

BLACK
FRIDAY

MELHOR
OFERTA

Digital Completo

Acesso ilimitado ao site, edições digitais e acervo de todos os títulos Abril nos apps*

Apenas 5,99/mês*

ou
BLACK
FRIDAY
Impressa + Digital
Impressa + Digital

Receba 4 Revistas no mês e tenha toda semana uma nova edição na sua casa (a partir de R$ 8,90 por revista)

a partir de 35,60/mês

ou

*Acesso ilimitado ao site e edições digitais de todos os títulos Abril, ao acervo completo de Veja e Quatro Rodas e todas as edições dos últimos 7 anos de Claudia, Superinteressante, VC S/A, Você RH e Veja Saúde, incluindo edições especiais e históricas no app.
*Pagamento único anual de R$71,88, equivalente a 5,99/mês.

PARABÉNS! Você já pode ler essa matéria grátis.
Fechar

Não vá embora sem ler essa matéria!
Assista um anúncio e leia grátis
CLIQUE AQUI.