Hoje as máquinas podem saber muito sobre nós. Não só sobre nosso passado ou presente. Mas também sobre nosso futuro. Ou ao menos elas se acham capazes disso. O que abre a chance (e esta é grande) de nos levar a uma era perigosíssima, guiada pelas previsões deterministas de robôs. Já viu (ou leu o conto de Philip K. Dick) Minority Report? Então, sabe bem do teor do medo que isso pode gerar.

A inteligência artificial (IA) do Google consegue, ao analisar nossos hábitos anteriores e presentes, estimar o que devemos buscar no site em uns minutos, horas ou dias. A Amazon, a partir do que já compramos, calcula a probabilidade de nos interessarmos pela leitura de uns livros ou pela compra de um produto qualquer. O Facebook, ao cruzar dados de nossos perfis, de círculos de amizades, do que curtimos ou desprezamos na rede social, determina o que veremos hoje, e daqui para a frente, no feed de notícias.

Os robôs, portanto, são deterministas. E não teria como ser de outra forma. Afinal, tratam-se de seres que, por mais inteligentes que possam vir a ser, dificilmente conseguirão um dia driblar as amarras dos algoritmos, sempre “exatos”, nos quais se baseiam. No entanto, qual é o limite de tal determinismo?

Uma nova IA testada recentemente por cientistas de dados e psiquiatras em Ohio, nos EUA, comprova quão urgente é essa questão. Urgência que só aumenta em grau conforme se avança o desenvolvimento das IAs.

Criou-se um software capaz de avaliar (com 92% de precisão, alegam seus criadores) o comportamento de jovens estudantes em escolas públicas. Alimentado de dados fornecidos por pais, professores e pelos próprios alunos, o programa se apoia nas informações para estipular a probabilidade de uma criança ou adolescente adotar atitudes agressivas. Fica óbvio que a ideia é utilizar a IA para impedir atos violentos extremos, como os tiroteios infelizmente tão frequentes nas instituições de ensino americanas.

O objetivo pode até parecer nobre. Só que não é. E ponto.

Lembra do Minority Report? Voltemos a ele. Na ficção científica, previa-se se uma pessoa iria cometer um crime, ou não. Na prática, o que a IA de Ohio quer fazer é a mesma coisa. Determinar se um jovem tem probabilidade maior de ser violento, quiçá um terrorista. E, a partir daí, tratá-lo como tal.

De início, a proposta seria oferecer tratamento psicológico a esse adolescente. Ok. Mas para onde isso pode ir? Será que um dia vão querer criar robôs que ajam como juízes deterministas, que julgam réus (ou possíveis réus, que podem vir a ser um num futuro probabilístico) só a partir do que eles poderiam vir a fazer, não pelo olhar sobre o que fizeram de fato? E as punições poderão ser determinadas pelo mesmo método?

Em outras palavras: talvez em uns anos alguma IA pode achar que você tem grande chance de cometer um crime, seja um homicídio, o consumo de drogas ilícitas, uma agressão a um parceiro(a), ou uma ilegalidade no trânsito. Aí irá recomendar que te multe previamente, ou te prenda, para diminuir a chance de ocorrer tal crime. Você acharia isso justo?

Procure por “determinismo” no Google, caso tenha se perdido acerca do termo. O que lá diz: “é a teoria filosófica de que todo acontecimento é explicado pela determinação, ou seja, por relações de causalidade”. Ou ainda: “princípio segundo o qual tudo no universo, até mesmo a vontade humana, está submetido a leis necessárias e imutáveis, de tal forma que o comportamento humano está totalmente predeterminado pela natureza, e o sentimento de liberdade não passa de uma ilusão subjetiva.”

O “determinismo” pode ser útil para a física ou para a química. Todavia, mostrou-se como uma armadilha, moral e ética, para as ciências humanas. Em especial, para as de cunho jurídico, ou ainda sociológico.

Pense nessa frase “o sentimento de liberdade não passa de uma ilusão subjetiva”. Agora imagine se avançadas IAs do futuro, no estilo Philip K. Dick, chegarem à mesma conclusão. Quando reflito sobre isso, só me vem uma coisa à cabeça (e perdoe a expressão em inglês, mas foi a que veio): WTF?

Para acompanhar este blog, siga-me no Twitter, em @FilipeVilicic, no Facebook e no Instagram.

Também deste blog
Assustador: novos programas do Google escrevem e-mails e fazem ligações
Whindersson, mulheres e o feminismo na internet
Vamos falar dos assuntos do mundo tecnológico todas as segundas-feiras?

• Mais lidas

1

Política

Bolsonaro teme que ofensiva anti-Moro no TSE legitime inelegibilidade

2

Política

O novo plano de Bolsonaro para tentar anistia e disputar eleição em 2026

3

Política

Pauta-bomba acesa por Pacheco no Senado não terá vida fácil — e com razão

4

Cultura

Apresentadora Christina Rocha é demitida do SBT; saiba o motivo

5

Cultura

5 ótimos filmes que entraram na surdina nas plataformas, da Netflix ao Max