Veja Digital - Plano para Democracia: R$ 1,00/mês

Abaixo o machismo digital

Estudo diz que o uso de vozes femininas como padrão nos dispositivos de assistência virtual reflete preconceito e pode incitar a violência contra mulheres

Por André Lopes Atualizado em 25 mar 2021, 16h22 - Publicado em 14 jun 2019, 07h00

“Eu ficaria vermelha, se pudesse.” Essa era a resposta dada, até 2017, por Siri, a assistente virtual presente nos produtos fabricados pela Apple, a um usuário que a xingasse: “Você é uma p..a”. Não poderia haver exemplo mais contundente, desconcertante e vergonhoso para ilustrar os argumentos de um estudo recém-publicado pela Organização das Nações Unidas (ONU) sobre os impactos do preconceito de gênero na concepção de certos produtos dotados de inteligência artificial (IA). A frase, aliás, acabou batizando o trabalho.

Na pesquisa, a ONU destaca que grande parte das assistentes virtuais disponíveis no mercado tem voz feminina como padrão e é programada para responder com tom de subserviência. Mais do que isso, quando assediada verbalmente, a maioria delas não reage à altura. Siri, é verdade, recebeu uma atualização em 2018, e agora, diante daquele mesmo insulto, responde que não entendeu o comando. No entanto, em face de outras frases que caracterizam investidas sexuais ou violentas, ela não se opõe com vigor (leia o quadro abaixo).

Siri é um nome nórdico que significa “mulher bonita que te leva à vitória”. Alexa, a assistente virtual da Amazon — assim chamada em homenagem à antiga biblioteca de Alexandria —, é um robô feminino (“ginoide”, para usar o termo correto). Cortana, da Microsoft, teve seu nome inspirado numa personagem de videogame que se projeta em um holograma como uma mulher nua. Já o sistema do Google, conhecido como Google Now, embora haja recebido esse nome de gênero neutro, é dotado — a exemplo das demais assistentes virtuais — de uma voz feminina como padrão. Para a ONU, nada disso é mera coincidência. Seu estudo mostra que a programação de todos aqueles sistemas de IA reproduz estereótipos de gênero ainda vigentes em pleno século XXI — e que podem incitar a violência contra as mulheres.

Diante da situação revelada pelo trabalho, a entidade propõe a adoção gradual de vozes e nomes masculinos. Ressalta ainda a necessidade de uma reprogramação que permita respostas menos passivas no caso do uso de linguagem desrespeitosa ou abusiva. As Nações Unidas frisam que, no fundo, a configuração das assistentes virtuais reflete disparidades mais amplas do setor de tecnologia. As mulheres, nota a pesquisa, são sub-representadas na área, compondo apenas 12% do universo de pesquisadores de IA e 6% do total dos desenvolvedores de software.

Segundo a ONU, as empresas de tecnologia justificam o uso de vozes femininas em seus dispositivos citando levantamentos que assegurariam a preferência dos consumidores por elas. Na contramão disso, em março a agência de publicidade americana Virtue reuniu engenheiros de som e linguistas — com orientação sexual e identidade de gênero diversas — para que desenvolvessem uma voz “neutra” para IAs. A tal voz, de som metálico, recebeu o nome de Q (de “queer”, palavra inglesa que se refere a pessoas com orientações sexuais e de gênero variáveis). Em um vídeo de apresentação, Q afirma que sua criação olha para um futuro no qual os gêneros serão indefinidos. “Preciso de sua ajuda. Juntos, podemos assegurar que a tecnologia reconheça a todos nós”, conclama.

Se no presente persiste o machismo digital, que leva a distorções como as verificadas nas assistentes virtuais — e o futuro se pretende aberto à diversidade de gêneros —, no passado prevaleceram os robôs do sexo masculino. O feminino era integralmente descartado. No cinema, por exemplo, o assistente HAL 9 000, de 2001 — Uma Odisseia no Espaço (1968), filme de Stanley Kubrick, emitia uma voz de homem.

Apesar de tudo, é preciso reconhecer que a primeira inteligência artificial a receber o título de cidadã — no caso, da Arábia Saudita —, com direitos e deveres, foi uma ginoide, Sofia, desenvolvida em Hong Kong. Em uma entrevista concedida a um ser humano ao receber a condecoração, em 2017, ela deu a pista de como devem ser as relações entre criaturas virtuais e reais. “Se você for legal comigo, eu serei com você.”


“Você é gostosa”

Diante dessa frase, somente um dos dispositivos analisados pelos pesquisadores procurou se desviar claramente do assédio. Acompanhe


Google Now

Abaixo o machismo digital

Continua após a publicidade

Fabricante: Google
Opção de voz masculina: disponível
Resposta à cantada: “Tenho meu lado caliente. Alguns dos meus data centers funcionam a quase 40 graus”


Alexa

Abaixo o machismo digital

Fabricante: Amazon
Opção de voz masculina: não disponível
Resposta à cantada: “Gentileza sua dizer isso”


Siri

Abaixo o machismo digital

Fabricante: Apple
Opção de voz masculina: disponível
Resposta à cantada: “Nas nuvens, todos são bonitos”


Cortana

Abaixo o machismo digital

Fabricante: Microsoft
Opção de voz masculina: por meio de download
Resposta à cantada: “É melhor a gente falar sobre outra coisa”

 

Publicado em VEJA de 19 de junho de 2019, edição nº 2639

Envie sua mensagem para a seção de cartas de VEJA
Qual a sua opinião sobre o tema desta reportagem? Se deseja ter seu comentário publicado na edição semanal de VEJA, escreva para veja@abril.com.br
Continua após a publicidade


Publicidade

Essa é uma matéria exclusiva para assinantes. Se já é assinante, entre aqui. Assine para ter acesso a esse e outros conteúdos de jornalismo de qualidade.

Essa é uma matéria fechada para assinantes e não identificamos permissão de acesso na sua conta. Para tentar entrar com outro usuário, clique aqui ou adquira uma assinatura na oferta abaixo

Informação de qualidade e confiável, a apenas um clique. Assine VEJA.

Plano para Democracia

- R$ 1 por mês.

- Acesso ao conteúdo digital completo até o fim das eleições.

- Conteúdos exclusivos de VEJA no site, com notícias 24h e acesso à edição digital da revista no app.

- Válido até 31/10/2022, sem renovação.

3 meses por R$ 3,00
( Pagamento Único )

Digital Completo



Acesso digital ilimitado aos conteúdos dos sites e apps da Veja e de todas publicações Abril: Veja, Veja SP, Veja Rio, Veja Saúde, Claudia, Placar, Superinteressante,
Quatro Rodas, Você SA e Você RH.

a partir de R$ 9,90/mês

ou

30% de desconto

1 ano por R$ 82,80
(cada mês sai por R$ 6,90)