Quebrando a cara

O filme de 1985 do americano Terry Gilliam, a distopia futurista Brazil — que não faz referência direta ao país, mas ao gingado da música brasileira —, traz um protagonista, Buttle, que é preso erroneamente depois que um sistema automatizado de identificação do governo ditatorial o confunde com um bandido foragido. Roteiros de ficção científica costumam prever tecnologias que mais tarde se tornam rotineiras. Foi assim com a inteligência artificial, com os carros autônomos, com os smartphones, todas essas inovações imaginadas previamente em livros e no cinema. Agora, o amanhã torto descrito em Brazil começou a se concretizar. Descobriu-se que sistemas de reconhecimento facial utilizados na China para flagrar criminosos são muito menos precisos do que o celebrado pelo Partido Comunista.

A potência asiática é pioneira no uso dessa tecnologia em larga escala. Desde 2015, uma rede de 170 milhões de câmeras de segurança foi espalhada por vias públicas. Por meio de um banco de dados com 1,3 bilhão de fotos de rostos, o governo alega conseguir identificar até 700 milhões de cidadãos, com precisão que ultrapassa 80% de acerto. A China ainda informa que, após uma primeira abordagem de um suspeito, o cruzamento de informações extras de seus sistemas elevaria a probabilidade de correção para 97%. Mas não é bem assim.

Levantamentos recentes escancararam a fragilidade do mecanismo. As autoridades chinesas teriam mentido, falsificando os dados, o que não é lá grande novidade. No ano passado, o Reino Unido passou a testar a mesma técnica de identificação facial no País de Gales. Os resultados foram tenebrosos: de 2 470 alertas de detecção de suspeitos de crimes, 90% eram falhos. Em Londres, o mesmo programa foi usado em eventos de grande público, como partidas de futebol, com taxa de 98% de falso-positivos.

Nos Estados Unidos, a inovação começou a ser testada pela Amazon. No entanto, antes mesmo de algumas cidades adotarem o sistema, a União Americana para as Liberdades Civis (Aclu, na sigla em inglês) protestou. A entidade fez a contraprova da tecnologia de forma inusitada: cruzou as fotos de todos os 535 senadores e deputados federais com as imagens de 25 000 criminosos arquivadas num banco de dados. A falha foi grotesca, visto que 28 dos legisladores foram reconhecidos como bandidos — e nenhum dos parlamentares, diga-se, era foragido da Justiça.

Espera-se que a tecnologia evolua, como sempre. Contudo, é perigosa a forma como o aprimoramento deve ocorrer. Para a identificação ter índice de acerto superior, é crucial que o banco de retratos usado como base seja ampliado. Uma taxa de precisão de quase 100% só seria possível, em teoria, se fosse escaneada a face de todos os cidadãos, incluindo aí a maioria inocente. Uma invasão de privacidade que já ocorre sem que se perceba. Explica o engenheiro José Guerreiro, chefe de tecnologia da brasileira FullFace, fornecedora do programa de reconhecimento facial da polícia de São Paulo: “Ao cederem imagens a uma empresa como o Google ou o Facebook, essas companhias têm o direito de repassá-las para as autoridades”. Em outras palavras, as fotos nas redes sociais podem em breve ser usadas para fichamento na polícia.

Nos Estados Unidos, um relatório do Center on Privacy and Technology (Centro de Privacidade e Tecnologia), da Faculdade de Direito de Georgetown, mostrou que, no ano passado, esse método já possibilitaria que 117 milhões de americanos, entre a população de 325 milhões, tivessem o rosto digitalizado pelo governo. Uma distopia como a de Brazil parece cada vez mais próxima da realidade.

Publicado em VEJA de 8 de agosto de 2018, edição nº 2594