Burrice artificial

Ela já faz parte da sua vida. Como quando você compra um produto numa grande loja virtual e recebe aquela simpática e precisa sugestão para a próxima compra. Ou no momento em que termina de assistir a um filme e a plataforma de VOD (vídeo sob demanda) acerta a série que você quer ver em seguida. Ou ainda quando você entra numa rede social e vê as postagens que coincidentemente lhe interessam. Em todas essas situações, os algoritmos estão em ação — o primeiro esboço da inteligência artificial (IA) no nosso cotidiano. Mas aí tem o lado B. Somos informados de que grandes empresas on-line usam os dados que disponibilizamos no nosso dia a dia para alavancar suas marcas e privilegiá-las nas recomendações, o que prejudica, entre outras coisas, a livre-concorrência. Nas redes sociais, o risco é até maior. O algoritmo é como um traficante: ele quer que você fique viciado na tela e sempre lhe oferecerá aquilo que o deixará mais conectado ainda. Zeynep Tufekci, socióloga especializada em tecnologia, descreveu recentemente no New York Times uma experiência curiosa. Ela observou que, nas suas navegações em uma plataforma de vídeos, o algoritmo invariavelmente acabava levando-a a conteúdos mais radicais do que os originalmente buscados. Se ela pesquisava sobre Donald Trump, por exemplo, terminava recebendo sugestões sobre vídeos de conteúdo neonazista. Se pesquisasse sobre Hillary Clinton, era convidada a assistir a filmes conspiratórios que diziam que o 11 de Setembro foi cometido pelo governo americano. Fora da esfera política, o mesmo comportamento se repetia. Conteúdos sobre vegetarianismo levavam a vídeos sobre veganismo (nada contra, aliás), conteúdos sobre corridas direcionavam Zeynep para ultramaratonas (nada contra, também). Por quê? Porque o que é incendiário tende a “capturar” com mais eficiência o usuário (ou dependente?) e fazer com que ele se conecte cada vez mais.

Como qualquer boa tecnologia, as redes sociais e seus algoritmos podem ser usados para o bem. No mundo todo, marchas e protestos em defesa da liberdade foram marcados no Facebook. Mas é fato que candidatos que promovem o ódio se beneficiam da lógica dos algoritmos e que, comercialmente, eles são “setados” para aumentar o lucro das empresas.

O progresso tecnológico se move cada vez mais rápido — é o que o futurista Ray Kurzweil chama de lei de retornos acelerados. Segundo Kurzweil, o século XXI vai ter 1 000 vezes o progresso do século XX. Essa força tremenda pode ser um tiro no pé se não for bem utilizada.

Stephen Hawking disse que a inteligência artificial pode acabar com a humanidade. Não estou defendendo o uso de lampiões ou a volta à Idade da Pedra Lascada. Defendo apenas ponderação e preocupação com a boa relação da sociedade com a tecnologia. A inércia e a complacência com os efeitos colaterais da IA podem minar a democracia. Sei que isso é um tanto óbvio, porém como disse André Gide: “Todas as coisas já foram ditas, mas como (às vezes) ninguém escuta é sempre preciso recomeçar”.

Publicado em VEJA de 11 de abril de 2018, edição nº 2577