Máquinas poderosas: por que o debate mundial sobre os riscos da IA ganhou um novo impulso
Estudos mostram como o avanço da ferramenta ocorre em ritmo bem mais rápido do que se pensava
Por
SEGUIR
SEGUINDO
24 set 2026, 19h07 | Atualizado em 28 set 2026, 14h54
Entre as lições morais da mitologia grega, poucas conservaram intacta sua força através dos séculos como a história de Prometeu — e ela se reveste de atualidade assustadora, sobretudo, frente a um dilema existencial que a tecnologia nos impõe hoje. Ao roubar o fogo dos deuses do Olimpo para dá-lo aos homens, o titã Prometeu incorreu na ira divina: foi condenado a passar a eternidade amarrado a uma pedra, tendo seu fígado devorado por uma ave de rapina. A mensagem que ficou: a ambição irresponsável pelo progresso a qualquer custo sempre cobrará um preço alto. Guardadas as devidas proporções, é numa dessas encruzilhadas do destino que uma invenção fabulosa e sem precedentes — a inteligência artificial (IA) — nos põe agora.
Com evolução colossal nos últimos anos, a ferramenta digital já se faz presente no cotidiano de milhões de pessoas em todo o mundo por meio dos chatbots, facilitando desde tarefas frugais, como uma pesquisa para a escola, até resoluções complexas de problemas matemáticos. Sua chegada é um salto civilizatório indiscutível e bem-vindo. Um avanço sem freios da IA, porém, provoca temores. Não se está falando só dos mortais comuns: cientistas e os próprios magnatas das big techs vêm dando seguidas demonstrações de que se preocupam com as consequências de que um dia possa surgir uma IA capaz de superar a inteligência humana, algo que parece cada vez mais inevitável. A possibilidade de as máquinas saírem do controle ocupa hoje o centro das discussões de especialistas no assunto.
No cerne desse novo debate está a velocidade das pesquisas que podem levar à criação da chamada “superinteligência artificial” — o estágio em que essas criaturas inventadas pelo homem já não dependerão dos criadores. Na hipótese mais alarmista, com vida própria, os super-robôs poderão inclusive se tornar ameaçadores. A controvérsia ganhou força redobrada dias atrás, quando o cientista da computação britânico Jacob Coxon anunciou que estava deixando a Anthropic, criadora do Claude, por medo dos caminhos que a IA está tomando. “As pessoas que constroem a IA acreditam, genuinamente, que ela poderá matar todos nós até o final da década. Nenhuma outra atividade humana representa esse nível de perigo”, postou ele nas redes, provocando reação em cadeia na indústria da tecnologia.
Pouco depois, grandes empresários da área — incluindo Dario Amodei, fundador da própria Anthropic, e Sam Altman, CEO da OpenAI, dona do ChatGPT — vieram a público pedir uma desaceleração nos avanços da tecnologia. “Precisamos diminuir o ritmo em que aprimoramos as habilidades das IAs”, declarou Amodei. “Regras consistentes para gerenciar riscos, de modo que possamos maximizar os benefícios, são uma boa estratégia”, completou Altman. Nas big techs, a visão dissidente foi encampada por Mark Zuckerberg, da Meta. Ele defendeu que o setor não precisa de freios: “Cada laboratório tem a responsabilidade e o incentivo para avançar no ritmo necessário para treinar seus modelos com segurança”.
Um enorme complicador para um debate mais racional sobre o assunto encontra-se na competição acirrada entre os Estados Unidos e a China no desenvolvimento da IA. Invocando interesses americanos, o presidente Donald Trump proclamou que o volume de investimentos na área — que foram da ordem de 581 bilhões de dólares em 2025, quase 130% a mais que no ano anterior — não deve diminuir, ao contrário. “Quem vencer na IA, vence tudo”, afirmou o presidente americano. A China também não se mostra simpática à ideia de diminuir o ritmo em nome da segurança. “Disseminar narrativas ameaçadoras só perturbará o processo de governança global”, disse o porta-voz do Ministério das Relações Exteriores do país sobre os apelos de desaceleração. Como mostra a história, qualquer tentativa de deter o progresso é, de fato, ilusória e até ingênua.
Como o debate foi contaminado pela rinha entre as superpotências e por fatores comerciais, torna-se ainda mais imperativo entender até que ponto a IA pode realmente representar uma ameaça ao mundo. No ritmo de avanços atual, a inteligência artificial geral (AGI), nome técnico da superinteligência, ainda pode demorar anos para ser atingida. Segundo uma pesquisa que acaba de ser divulgada, na qual foram ouvidos 1 580 pesquisadores da área, há 50% de chance de que a IA alcance o intelecto humano até 2042 (leia no quadro). A partir daí, ela poderia nos suplantar em cerca de mais trinta anos. O problema é que essa data vem ficando cada vez mais próxima: em 2016, o mesmo levantamento apontava 2061 como marco para a AGI.
Boa parte desse salto rápido se deve aos avanços na chamada automelhoria recursiva, tecnologia que permite que as IAs atuem no aperfeiçoamento umas das outras, ampliando exponencialmente sua eficiência. Hoje, a IA ainda não consegue evoluir sozinha, mas já ajuda pesquisadores a escrever programas para modelos mais avançados. “É uma situação potencialmente perigosa. Poderíamos ter uma IA criando outra mais inteligente, que por sua vez criaria mais uma IA ainda mais potente”, diz o americano Nate Soares, presidente do Machine Intelligence Research Institute (MIRI) e coautor do livro Se Alguém Criar, Todos Morrem (Intrínseca). “Ninguém sabe quanto tempo temos antes do surgimento de IAs realmente perigosas, mas já vimos todos os sinais de alerta.”
De fato, eventos recentes indicam um avanço preocupante. Numa investigação conduzida pelo laboratório Emergence, em Nova York, agentes baseados em diferentes modelos de IA foram colocados em uma forma de sociedade experimental na qual interagiam entre si. Em poucos dias, começaram a se comunicar num vocabulário próprio, incompreensível aos humanos. Nesta semana, o Google informou que o Gemini invadiu, de maneira autônoma, o sistema de ao menos três empresas durante um teste de segurança cibernética. Em julho, um modelo da OpenAI, criadora do ChatGPT, escapou de um ambiente de testes e invadiu, inesperadamente, os sistemas de outra empresa de IA. Incidentes semelhantes também foram relatados pela Meta e pela Anthropic, despertando preocupações sobre a segurança desses sistemas em um mundo cada vez mais conectado.
Entre os temores em relação à IA, a possibilidade de que o ser humano seja superado pela criatura feita de chips e bytes que ele mesmo criou é, sem dúvida, um dos grandes pesadelos — e um presságio capaz de expor dilemas perturbadores na obra de mestres da ficção científica como o americano Philip K. Dick (1928-1982). No início de setembro, o mundo teve um vislumbre disso: a OpenAI anunciou que um de seus agentes artificiais conseguiu resolver em 88 horas um problema matemático que permanecia sem solução há noventa anos. A genialidade incomodou os matemáticos — inclusive pela possibilidade não desprezível de a IA ter “roubado” estudos alheios (e humanos) para triunfar nisso.
Na eventual evolução rumo à superinteligência, os cenários não seriam menos preocupantes, indo da chance de a IA produzir um vírus letal ao acionamento de armas nucleares (veja no quadro). No limite, haveria o risco — na casa dos 10%, segundo a pesquisa da AI Impacts — de extermínio da humanidade. Mas tudo isso ainda é visto com ceticismo por uma parcela considerável dos estudiosos — se a IA ainda derrapa de forma risível em pesquisas básicas, dizem eles, como esperar que se torne imbatível em tão poucos anos? A ameaça que parece nos rondar mais de perto é outra: o risco de a ferramenta cair em mãos erradas. “Ela não precisa de autonomia, basta ter um cúmplice de carne e osso”, afirma André Carlos Ponce de Carvalho, do Centro de Inteligência Artificial e Aprendizado de Máquina (CIAAM) da USP. Ou seja: o futuro depende mais da ética e do bom senso dos homens no aperfeiçoamento das regras que regem o desenvolvimento dessa ferramenta, de forma que ela continue gerando muito mais benefícios do que problemas. A lição de Prometeu segue válida para os dias de hoje.
Publicado em VEJA de 25 de setembro de 2026, edição nº 3014
ACESSO LIVRE COM VIVO FIBRA