Clique e Assine a partir de R$ 9,90/mês

Artigo: a ética em algoritmos de inteligência artificial

Com tecnologia cada vez mais difundida, é preciso entender viés ou propensão das ferramentas tecnológicas na tomada de decisões

Por Caio César Carvalho Lima* Atualizado em 26 mar 2021, 00h27 - Publicado em 9 mar 2021, 13h32

Decisões relevantes têm sido, cada vez mais, realizadas com o uso inteligência artificial, ainda que não se tenha tanta consciência disso. Desde quem vai receber um empréstimo bancário — assim como a taxa que será ofertada — até quem será oferecida uma vaga de emprego, e até mesmo quem será selecionado para entrevista numa universidade pode ter por trás “dedos robotizados”, ou melhor dizendo, algoritmos. Mas a questão que fica é: como saber se não haverá viés ou propensão das ferramentas tecnológicas ao tomarem essas decisões? Tais resultados podem ser influenciados de acordo com a realidade de quem fizer a programação, ainda que não se trate de algo intencional, representando os vieses inconscientes. 

A questão não é de fácil investigação, exigindo complexas confirmações técnicas e que podem ter grandes variações. A cada nova consulta realizada com o algoritmo, a depender dos dados de entrada, as respostas podem ser diferentes. Apesar de inteligência artificial estar mais disseminada hoje, a discussão vem de antes. Em 1988, uma Escola de Medicina no Reino Unido identificou que o programa de computador que selecionava os candidatos para as entrevistas admissionais era tendencioso contra candidatos com nomes não europeus e do gênero feminino.

Diversos outros casos como esse têm sido identificados nos últimos 30 anos. E isso pode se repetir especialmente se o programa for desenhado por equipes com pouca diversidade, diante da tendência de que o algoritmo seja “imagem-reflexo” do pensamento daqueles que estão diretamente responsáveis pela sua elaboração.

Justamente com o objetivo de ter maior controle sobre esse tema, grandes empresas de tecnologia (como Google, Facebook, Amazon, IBM, Microsoft, entre outras) já começam a ter em seus Conselhos membros focados nessa temática. A principal missão é acompanhar de perto os “julgamentos algorítmicos” buscando torná-los o mais neutro possível. 

A própria apuração dessa neutralidade pode ser enviesada, uma vez que nos processos realizados por seres humanos também haverá tendência nas escolhas a serem confirmadas ou rejeitadas – crenças, preferências e aspirações podem influenciar essas definições, por mais que se deseje alcançar a imparcialidade. Não se trata, portanto, de aversão à tecnologia. 

Assim, é importante confiar nas decisões algorítmicas, até mesmo para que se possibilite a análise de grande volume de dados com rapidez, eficiência e retorno mais assertivo, quando comparado com resultados que seriam obtidos se isso fosse realizado apenas por seres humanos. Com o crescimento da quantidade de informações em ambiente digital, isso se torna mais relevante.

A ética que permeia o desenvolvimento desses programas tem desafiado os estudiosos de diversas áreas, indo além do Direito e da Engenharia. Em breve, existirão padrões e boas práticas a serem seguidos pela indústria desde a concepção dessas novas ferramentas, o que vem sendo denominado de “ética by design”.

* Caio César Carvalho Lima é professor e advogado com atuação em Direito Digital e Proteção de Dados e sócio do Opice Blum, Bruno e Vainzof Advogados Associados

Continua após a publicidade

Publicidade

Essa é uma matéria exclusiva para assinantes. Se já é assinante, entre aqui. Assine para ter acesso a esse e outros conteúdos de jornalismo de qualidade.

Essa é uma matéria fechada para assinantes e não identificamos permissão de acesso na sua conta. Para tentar entrar com outro usuário, clique aqui ou adquira uma assinatura na oferta abaixo

Informação de qualidade e confiável, a apenas um clique. Assine VEJA.

Impressa + Digital

Plano completo de VEJA. Acesso ilimitado aos conteúdos exclusivos em todos formatos: revista impressa, site com notícias 24h e revista digital no app (celular/tablet).

Colunistas que refletem o jornalismo sério e de qualidade do time VEJA.

Receba semanalmente VEJA impressa mais Acesso imediato às edições digitais no App.



a partir de R$ 39,90/mês

MELHOR
OFERTA

Digital

Plano ilimitado para você que gosta de acompanhar diariamente os conteúdos exclusivos de VEJA no site, com notícias 24h e ter acesso a edição digital no app, para celular e tablet. Edições de Veja liberadas no App de maneira imediata.

a partir de R$ 9,90/mês

ou

30% de desconto

1 ano por R$ 82,80
(cada mês sai por R$ 6,90)