‘Você jamais saberá o que ainda podemos ser’: a resposta de Tatiana Roque à Inteligência Artificial
A matemática e historiadora da ciência discute em livro de onde veio e para onde vai a IA - e as transformações que ela já está operando no mundo
Por
SEGUIR
SEGUINDO
1 out 2026, 15h47 | Atualizado em 1 out 2026, 16h29
A cientista Tatiana Roque é uma grande escritora. Ou, se reformulássemos a equação, a escritora Tatiana Roque é uma grande cientista. A ordem dos fatores não altera o produto.
E seu mais novo produto é um panorama preciso sobre a inteligência artificial, essa tal de IA com a qual já convivemos mais do que imaginamos. Em A Máquina e Nós, recém-publicado pela editora Todavia, a matemática, historiadora da ciência e professora da UFRJ faz aquilo que nenhum computador faria sozinho: sintetiza, com sensibilidade e senso crítico, de onde os algoritmos vieram, onde estão e para onde devem nos levar.
A autora não comunga com os boomers – os otimistas tecnológicos – nem com os doomers – os tecnopessimistas. Reconhece os méritos da IA sem passar o pano nos problemas éticos, sociais e ambientais que ela já causa e poderá escalar por aí. Sua postura, aliás, é proativa: ela batalha, inclusive politicamente, pela regulação desse sistema, hoje nas mãos das Big Techs.
Com prosa didática e afiada, que sobrevoa das ciências exatas às humanas, com pousos em séries de TV e episódios que marcaram o noticiário, Tatiana Roque expõe os potenciais, as limitações e os riscos da inteligência artificial. Para quem acha que ela vai substituir os seres humanos, entrega boas e más notícias. Pois, sem dúvida, há sonhos coloridos e demônios assustadores à espreita.
Mas a IA que se cuide se pensa que vai pensar como a gente… A máquina faz coisas em uma magnitude e velocidade que nos deixam de boca aberta. Só que, quando ela está indo, estamos voltando.
Com a palavra, Tatiana Roque.
A senhora evita a polarização entre boomers e doomers. Mas, se tivesse que pender para um dos lados hoje, considerando o que estamos vivendo e o que está no horizonte, qual deles seria? O problema é que boomers e doomers compartilham um mesmo pressuposto: o de que os rumos da inteligência artificial nos moldes atuais são inevitáveis. Ou seja, não haveria agência possível para se desenvolver a IA numa direção diferente. É uma espécie de resignação que me nego a aceitar. Haveria algo de inexorável na evolução da IA generativa, tanto para os que acreditam que isso é bom quanto para os que acham ruim. Isso acaba sequestrando nosso poder político de interferir nas decisões e fazer com que a IA possa ser desenvolvida a partir do que ela poderia fazer pelo bem comum. O que precisamos urgentemente é de governança.
Mas isso é factível? Estive em Genebra para um evento da ONU chamado Diálogos Globais para a Governança da IA. Existe um consenso, entre a maior parte das nações do mundo, de que é preciso – e é possível – criar uma governança global da IA para que as decisões não fiquem nas mãos de um grupo pequeno de empresários bilionários, os donos das chamadas “Sete Magníficas” (as sete maiores e mais influentes empresas de tecnologia listadas na bolsa dos Estados Unidos, como Microsoft, Alphabet, Amazon, Meta e outras). Precisamos de regulação e governança. E eu acho que a polarização entre boomers e doomers acaba neutralizando a ação política, já que, de um lado, estão os que acham que basta seguir aprimorando os modelos atuais e, de outro, os que acham que a única saída é parar tudo. Esses últimos, por serem críticos, são extremamente necessários na ação política por uma governança da IA, tornando-a mais democrática, compartilhada, voltada para o bem comum e não para o lucro de poucos. Entre doomers e boomers, eu me afino mais com os doers, os que querem fazer alguma coisa para mudar. Não podemos desistir de ver outro caminho no horizonte.
No livro, detectamos duas macrotendências: a busca pela superinteligência capitaneada pelos Estados Unidos e o modelo mais pragmático, com a IA aplicada a serviços e demandas reais na China. Na sua perspectiva, a segunda via parece mais acertada? Sim, a segunda via me parece mais acertada. Na China, o desenvolvimento da IA visa aumentar a produtividade da indústria, tornar os serviços mais eficazes e qualificados, ampliando o acesso, ou seja, fazendo com que atendam mais pessoas e melhorem a qualidade de vida. É o que Kai-Fu Lee denomina a “visão da implementação”. Enquanto isso, os Estados Unidos propõem a busca pela superinteligência como uma medida de prevenção contra uma possível ameaça da China. Diversos depoimentos, incluindo um bastante famoso de Eric Schmidt, ex-CEO do Google, ao Congresso dos EUA, reforçam essa ideia. Ele apavorou os congressistas com a afirmação de que a China estaria desenvolvendo uma superinteligência e, caso conseguisse primeiro, ameaçaria os EUA. A conclusão natural, portanto, é a de que os americanos precisam desenvolvê-la mais rápido. Isso está escrito inclusive no AI Act que foi publicado por Trump. Não há indícios de que a China esteja caminhando nessa direção. Esse discurso justifica o controle das empresas sobre o desenvolvimento da IA e os investimentos trilionários que elas demandam do governo. Ao passo que a China segue sua prioridade de implementação e pode sim chegar na frente dos EUA nas aplicações à indústria e à robótica.
Nosso país, então, deveria seguir o exemplo chinês? O Brasil deveria seguir um caminho análogo ao da China. Isso é totalmente possível, mas a janela não ficará aberta por muito tempo. Nossa vantagem em terras raras e minerais críticos abre possibilidades de negociações internacionais, desde que o Brasil invista nas etapas de processamento que geram maior valor agregado. Podemos desenvolver ferramentas soberanas de IA aplicadas às necessidades reais dos serviços públicos, da indústria e do combate às mudanças climáticas. Isso pode gerar um novo modelo de desenvolvimento tecnológico que nos afaste da dependência da exportação de commodities e nos ajude a entrar na economia do conhecimento.
Se pudesse escolher uma área da economia em que a IA já presta um ótimo papel, podendo servir de exemplo a outros campos do conhecimento e do mercado, qual seria? Um ótimo exemplo é o setor de energia. A operação de redes elétricas pode se beneficiar muito da IA, pois ela é fundamental para gerenciar a comutação entre diferentes tipos de energia. As energias renováveis têm um caráter intermitente, pois a energia eólica e a solar não são geradas sempre com a mesma intensidade. Então, às vezes, é preciso comutar para a alimentação por outros tipos de energia. Otimizar esse sistema é difícil. No Brasil, esse desafio acaba levando ao chamado “curtailment”, quando jogamos energia fora pelas limitações das redes de transmissão. A gestão dessa rede exige o equilíbrio entre geração, transmissão, consumo, clima, preços e a capacidade física das linhas, tudo isso considerando a natureza intermitente das fontes de energia renovável. A IA pode ser utilizada para prever a geração renovável, antecipar a demanda, detectar anomalias, prever falhas nos equipamentos, programar e otimizar o fluxo de eletricidade pela rede. É complexo, e a IA pode ajudar a economizar muita energia, usando mais as fontes renováveis. Ou seja, ela desempenha um papel crucial para a transição energética.
O que acha do conceito de singularidade tal qual professado por figuras como o “profeta” Ray Kurzweil? Ele parte do conceito de singularidade usado na matemática e na física como o ponto em que o comportamento de um sistema não pode mais ser tratado pelos modelos usuais. Kurzweil usa essa metáfora ao afirmar que a humanidade vai passar por uma transformação tão grande que nossa maneira de enxergar o mundo não terá mais validade, e isso vai acontecer muito em breve, daqui a mais ou menos 20 anos. Segundo ele, com o desenvolvimento da inteligência artificial, haverá uma ruptura na trajetória humana. O progresso tecnológico fará com que a integração humano-máquina se torne tão profunda que distinções como humano e máquina, biológico e artificial, físico e virtual perderão o sentido. O problema dessa concepção é o uso da noção de singularidade como ponto chave de um caminho já dado. De novo, a inexorabilidade que assombra boa parte dos debates sobre IA. Desse modo, a singularidade é pensada a partir do polo da máquina. É o ponto em que a inteligência artificial vai ter uma evolução tão disruptiva que produzirá uma transformação da própria história humana. Então, ao invés de pensarmos – como considero mais urgente – a singularidade humana num mundo transformado pela IA, acabamos deslocando a singularidade para algo a ser produzido pela máquina.
A senhora vai na contramão dessa ideia com seu conceito de singularidade humana, certo? Sim, no meu livro, proponho o caminho inverso: resgatar a perspectiva da singularidade humana. Ou seja, avaliar com clareza o que a tecnologia consegue ou não reproduzir do pensamento e da inteligência humana. Essa capacidade é limitada, pois há dimensões fundamentais e insubstituíveis do pensamento humano. O objetivo central do meu livro é justamente propor que, no diálogo entre a máquina e nós, busquemos a singularidade humana, tudo aquilo que a IA não saberá imitar. E tem muita coisa: a experiência, o corpo, a criatividade, a possibilidade de fazer as perguntas que importam e de propor novos problemas. A singularidade do Kurzweil é uma metáfora matemática para indicar que a tecnologia produzirá uma virada inevitável na história humana. Mas isso nega o próprio conceito de história. Sou historiadora da matemática e ela própria tem uma história cheia de imprevistos e plot twists. Como a história humana não teria? A IA parte de um acervo do que a história humana produziu até aqui. Sendo assim, de certo modo, ela nos mantém presos a nosso passado.
Então a IA é incapaz de escrever nosso futuro? O futuro da história humana pode ser radicalmente distinto, mas não necessariamente por uma inflexão tecnológica. A singularidade matemática não pode ser usada como uma teoria da história humana. Há desfechos imprevisíveis, exatamente porque vivemos tempos de mudanças sem precedentes. Precisamos de mais filosofia da história e tem muita gente boa pensando sobre isso.
Derretimento da atenção, perda da nossa capacidade cognitiva, o fim do pensamento diversificado e crítico… Qual é o grande demônio da IA que nos assombra neste momento? A debilitação das nossas capacidades cognitivas, principalmente de crianças, adolescentes e jovens, é uma das consequências mais graves do uso excessivo da tecnologia. Recentemente, saiu o resultado do PISA, mostrando uma queda global muito preocupante no desempenho em português, matemática e ciências. Uma das razões é o uso excessivo das redes sociais e da IA. O declínio da capacidade de atenção é um problema que já nos preocupa há mais tempo. A IA agrava o problema, pois tem uma característica mais prejudicial para o público mais jovem do que para pessoas maduras: a terceirização da construção de um repertório intelectual próprio. Pessoas mais maduras já desenvolveram um repertório ao longo da vida, a partir de experiências de escrita, leitura e compreensão do mundo por si mesmas. Logo, para essas pessoas, o uso da IA pode ser auxiliar. Já os jovens ainda precisam criar seu próprio repertório, e isso pode estar sendo terceirizado para a IA, o que é muito grave. E vai implicar numa debilidade do esforço cognitivo e da capacidade de pensar por si próprio e expressar esse pensamento, seja pela escrita ou pelo discurso. Essa é uma das consequências mais graves do uso precoce da IA como substituto da leitura e da escrita. O uso por crianças e adolescentes deve ser restrito e sempre mediado quando voltado para situações de aprendizagem.
A Máquina e Nós fala bastante dos impactos da IA no mercado de trabalho, sobretudo para os mais jovens. Esse seria outro dilema tecnológico? Toda a segunda parte do meu livro é dedicada a isso. Mais uma vez a juventude será a mais afetada, com a diminuição dos postos de entrada, de primeiro emprego, nos trabalhos de colarinho branco, que são justamente os mais qualificados. Isso já está sendo observado nos EUA. Esses são os jovens que estão se formando na universidade e que verão seus primeiros trabalhos serem substituídos por IA, gerando um problema social gravíssimo, que é a falta de perspectiva da juventude. Esse problema hoje é mais grave nos países desenvolvidos, mas porque eles possuem proporcionalmente mais empregos desse tipo do que nós aqui no Brasil. Só que esse é mais um motivo de preocupação. Precisamos de um modelo de desenvolvimento econômico mais intensivo em conhecimento – ciência, tecnologia, cultura – para gerar trabalhos qualificados e garantir uma perspectiva de futuro para a juventude que está se formando hoje na universidade. Esse tem sido meu mantra.
Entre as questões fascinantes que aborda no livro, está a incapacidade de a IA aprender por meio de experiências físicas com o mundo real. Por que isso faz toda a diferença entre nós e as máquinas? Porque a IA não tem mundo. O corpo e a experiência que ele sustenta são essenciais ao pensamento. Nada disso se reduz à linguagem textual – que é o que a IA reproduz bem. Gosto muito das posições do matemático Yann Le Cun, que era cientista-chefe da Meta até outro dia. Ele diz que a IA generativa jamais poderá imitar a inteligência humana, pois ela é superespecializada em compreender o mundo à nossa volta. Isso exige muito aprendizado direto pela intuição, muitas experiências, capacidades de insights. E nada disso é plenamente traduzível em texto: em dados, informações ou tokens. Como a IA generativa é dependente de dados, ela não capta essas dimensões do pensamento.
Seu livro é dedicado à sua cachorra, Gabi. O que a IA pode aprender com a inteligência animal – e o que não vai conseguir aprender? Os cachorros, como também os bebês, aprendem pela intuição. Eles são capazes de um aprendizado direto sem necessidade de nenhum ensinamento verbal. Dou alguns exemplos no livro. Se consideramos que os cachorros possuem um tipo de inteligência, ela está no polo oposto da linguagem textual. Minha cachorra Gabi é inteligentíssima. Dedico o livro a ela, pois é a prova de que nem todas as dimensões da inteligência podem ser descritas, registradas ou traduzidas em dados. Então a IA não capta. Cito no livro uma conversa interessante de Richard Sutton, um dos pais da IA, com um podcaster famoso. Ele insiste na inteligência dos animais como algo inalcançável pela IA generativa enquanto o podcaster enaltece a inteligência humana com exemplos como a exploração espacial. Talvez os casos de inteligência de que precisamos para pensar a singularidade humana estejam tão próximos de nós que nem enxergamos. É o caso dos outros animais.
Deixei a última pergunta para o ChatGPT sob a instrução: elabore uma questão para a professora Tatiana Roque. Eis a provocação dele: “E se, no futuro, a máquina nos conhecer melhor do que nós mesmos?”, pressupondo que o “nós” que utiliza sejamos os seres humanos. O que responderia à máquina? Você conhece o que já fomos, os traços do que a humanidade foi até aqui. Jamais saberá o que ainda podemos ser, especialmente se esse futuro for radicalmente diferente do presente.
ACESSO LIVRE COM VIVO FIBRA