Trunfos e riscos da inteligência artificial

“A inteligência humana pode ser tão precisamente descrita que é possível construir uma máquina que a simule”, acreditava o cientista americano John McCarthy (1927-2011), que em 1955 cunhou um termo desconcertante: inteligência artificial (IA). McCarthy construiu seu raciocínio em um documento no qual propunha uma jornada de dois meses, no Dartmouth College (EUA), durante o verão do ano seguinte, na companhia de outros especialistas, para iniciar os estudos sobre o assunto. O evento no Dartmouth é um dos marcos seminais da IA. Naquele tempo, apostava-se que não demoraria duas décadas para ser desenvolvida uma máquina capaz de pensar como nós. McCarthy morreu sem ver esse feito se concretizar. Isso, porém, está perto de ocorrer — um avanço extraordinário, que trará maravilhas e, ao mesmo tempo, desafios aterrorizantes. Sim, o advento da inteligência artificial tem, sem dúvida, um lado claro, fértil, empolgante, mas também uma face escura, infernal, ameaçadora.

Os dois hemisférios da IA, o cristalino e o trevoso, ficam evidentes quando se analisa uma coincidência recente. Na mesma semana em que a Apple lançou o seu iPhone X — que, por meio de reconhecimento facial, recebe comandos como o de destravamento —, veio à tona a notícia de que essa tecnologia fora aplicada por pesquisadores da Universidade Stanford (EUA) para determinar, a partir de fotos digitalizadas, se uma pessoa é gay ou heterossexual. Ou seja: é a mesma IA funcionando como serviço útil e como um ataque aos mais básicos direitos da vida privada.

Longe de um cenário de ficção científica, já é possível sentir a presença — onipresença — da inteligência artificial na rotina contemporânea. Ela ainda não é capaz de se emocionar nem de ter ciência da própria existência, convenhamos. No entanto, facilita tremendamente a nossa vida, orquestrando algoritmos que regem o dia a dia deste ultraconectado século XXI. Com uma força quase imperceptível, a IA está por trás do funcionamento de sites de busca, das sugestões de compras on-line, de extraordinários games de computador. A forma como a inteligência artificial revolucionou o cotidiano, com tantos benefícios que ainda estão sendo contabilizados, dá o tom da primeira reportagem das páginas seguintes. É o lado claro, fértil, empolgante da IA.

Entre os anos 80 e 90, os cientistas estavam desanimados com o lerdo progresso das pesquisas nesse campo. Afinal, havia décadas que se imaginava a produção de IAs como as descritas pelo russo-americano Isaac Asimov (1920-1992), autor do clássico Eu, Robô (1950). Um dos primeiros sinais de que a máquina poderia vir a pensar como nós surgiu próximo da virada do século. Em 1997, um computador da americana IBM, o Deep Blue, venceu o então campeão mundial de xadrez, o russo Garry Kasparov. Era a indicação de que softwares poderiam nos superar não só em contas como também em arranjos mentais até aquele momento exclusivos do ser humano, já que exigem lógica e raciocínio.

Indicação certeira. Em 2011, outra máquina da IBM, o Watson, massacrou campeões no programa de perguntas e respostas mais popular dos Estados Unidos. E, neste ano, um computador humilhou o melhor jogador do game Dota 2, que simula situações de guerra. Não é atordoante imaginar que um robô possa vencer um humano num embate militar real? “Temos de ensinar ao computador como ele deve agir”, alerta o engenheiro Thiago Rotta, que no Brasil chefia a divisão da IBM responsável pelo Watson.

“Ter crenças parece ser uma característica da maioria das máquinas”, dizia o pioneiro John McCarthy. Se, paralelamente ao seu desenvolvimento, as IAs passarem a desenvolver suas “crenças”, sua “moral”, sua “ética”, como controlá-las e, eventualmente, puni-las? Esta é a primeira vez que temos de refletir sobre nosso mundo com a presença de outro ser inteligente. Eis um aspecto marcante da face escura, infernal, ameaçadora da IA, que alimenta a discussão da segunda reportagem deste especial e encaminha o provocador artigo do historiador israelense Yuval Noah Harari, referência no assunto. O temor é que, no futuro, dependamos tanto da IA para tomar decisões que passemos a ser, para os robôs, o mesmo que uma criança é para seus pais — um misto de dependência e submissão.

Com reportagem de Carla Monteiro e Marcelo Sakate

Publicado em VEJA de 27 de setembro de 2017, edição nº 2549