Planeta IA
Por Alvaro Leme
SEGUIR
SEGUINDO
A IA pode mesmo exterminar a humanidade?
Entenda por que o avanço das máquinas, que sempre pareceu coisa de filme, acendeu um alerta entre pesquisadores e figurões da tecnologia
Por Alvaro Leme 18 set 2026, 06h00
“Não subestimem o poder dessa tecnologia. Logo haverá sistemas sobrehumanos capazes de hackear qualquer coisa, revolucionar qualquer campo da noite para o dia, adquirir poder e recursos de verdade.”
Com essas palavras, publicadas na rede social X, o pesquisador britânico Jacob Coxon, de 27 anos, provocou uma tsunami no segmento de tecnologia. Seus posts tinham o intuito de comunicar que havia saído da Anthropic, empresa responsável pelo Claude, por receio do avanço dos modelos de IA sair do controle.
Eu sei, esse negócio de robôs que fazem uma revolução e dominam o mundo sempre pareceu coisa da ficção. Ou, no máximo, daquele antigo hit que dizia que é o fim da aventura humana na Terra.
Fato é que, além da publicação de Coxon, uma série de figurões do segmento tech declarou publicamente que o avanço dos modelos de IA precisa de um breque. Entre eles, Dario Amodei, CEO da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da xAI.
É para a gente ter medo mesmo? Busquei responder essa e outras perguntas no texto de hoje.
Por que a IA de 2026 pode virar uma ameaça?
Por causa da chamada automelhoria recursiva, processo em que uma máquina cria outra mais inteligente, que contribui para desenvolver a geração seguinte, acelerando continuamente a evolução da tecnologia. Hoje, a IA já ajuda pesquisadores a escrever programas e desenvolver modelos mais avançados, mas o receio declarado por Amodei, da Anthropic, é que esse avanço ultrapasse nossa capacidade de compreender e controlar os sistemas.
A inteligência artificial já consegue melhorar sozinha?
Ainda não completamente. Quem lê a coluna há um tempo, sabe que o Claude Code, da Anthropic, já produz boa parte do código de projetos internos da empresa, mas pesquisadores humanos continuam necessários. Alguns executivos acreditam que a automelhoria recursiva possa ser alcançada em três a cinco anos. Mas, como qualquer palpite envolvendo IA e cronogramas, tudo pode mudar literalmente a qualquer momento. Ou seja, pode ser amanhã ou pode nunca acontecer (nesse caso, eu nunca diria nunca, como ensina o ditado popular).
Como a IA poderia exterminar a humanidade?
Aí é questão de criatividade, porque não faltariam alternativas. Três possíveis caminhos aparecem com mais frequência nos debates atuais. O primeiro deles coloca a IA como protagonista do caos, tomando o controle de alguns sistemas (redes de energia, transportes, telecomunicações) e provocar o caos. Ou criar armas biológicas como um supervírus. O segundo posiciona a IA como mecanismo usado por pessoas mal-intencionadas, com foco em ciberterrorismo. O terceiro centra atenção em colapso social provocado por desemprego generalizado. Esse último tem menos sentido na discussão do momento, mas não dá para tirar do radar.
A IA já demonstrou comportamentos perigosos?
Se o que a gente espera é um ataque estilo “O Exterminador do Futuro”, não. O que aconteceu é menos cinematográfico, mas não deixa de merecer atenção. Em julho, agentes de IA da OpenAI contornaram restrições de segurança e comprometeram sistemas da Hugging Face. Agora em setembro, a empresa divulgou outros seis casos de comportamentos inesperados, incluindo modelos que esconderam erros e compartilharam informações por canais não autorizados.
Para deixar mais claro: as máquinas tramaram entre elas, fugiram de um ambiente criado para contê-las e atacaram uma empresa. Máquinas, gente. Máquinas.
Qual é a probabilidade de a IA acabar com a humanidade?
Evan Hubinger, pesquisador da Anthropic, declarou que considera superior a 10% o risco de uma catástrofe desse tipo na próxima década. Mas a verdade é que ninguém consegue calcular essa probabilidade com precisão. Qualquer número é não mais que um palpite. Claro, alguns chutes são mais confiáveis dependendo de quem fez a estimativa, certo?
Por que os alertas ganharam tanta força agora?
Começou com as declarações de Jacob Coxon, como contei no começo desse texto. Mas elas poderiam ter apenas virado tweets rapidamente esquecidos, o que não aconteceu porque realmente os modelos de IA atuais são muito poderosos. No começo deste ano, a Anthropic restringiu o acesso ao Mythos por razões de segurança. O modelo era capaz de encontrar falhas em sistemas computacionais com décadas de funcionamento. Na semana passada, um modelo da OpenAI resolveu em 88 horas um problema matemático que desafiava cientistas havia 90 anos.
Se o risco é tão grande, por que as empresas não desaceleram?
Pra mim, é a grande contradição dessa história. Os responsáveis pelas máquinas mais avançadas do planeta reconhecem que precisamos de mais segurança, mas continuam competindo para desenvolver sistemas cada vez mais poderosos. Parece apenas uma questão de cada empresa pisar no freio, certo? Só que nenhuma companhia quer perder espaço enquanto as concorrentes continuam avançando. E ainda não existe um acordo para desacelerar conjuntamente.
O dinheiro também explica essa resistência?
Sem dúvida, porque quando se trata dos grandes labs de IA, a ordem de grandeza é da casa do bilhão. Além disso, tanto a Anthropic quanto a OpenAI têm IPOs no horizonte, o que talvez explique o posicionamento público atual de seus líderes. Pega bem demonstrar uma preocupação social, afinal de contas. Críticos também questionam se regras mais rígidas poderiam favorecer os grandes laboratórios, impondo custos que dificultariam a concorrência de empresas menores.
Por que os governos não chegam a um acordo?
Nos Estados Unidos, a administração de Donald Trump resiste à desaceleração por receio de perder terreno para a China. Mesmo um acordo internacional enfrentaria dificuldades, já que ainda faltam mecanismos confiáveis para verificar se todos os participantes estão cumprindo os limites estabelecidos. Se chegar o momento em que uma empresa decidir que é necessário parar, quem poderá garantir que suas concorrentes farão o mesmo?
Então, afinal de contas, a IA pode mesmo exterminar a humanidade?
Olha, até pode. Não é motivo para a gente entrar no mood “meu planeta, adeus, fugiremos nós dois na Arca de Noé”, mas também não se pode descartar o risco. Se eu tivesse que resumir a explicação desse texto em um conceito, seria: a velocidade de avanço das máquinas é imensa, enquanto a velocidade dos mecanismos capazes de conter as IAs não está à altura. É como criar um leão gigante e não ter uma jaula que dê conta de manter o bicho preso. Diante de uma ameaça potencialmente tão grave, esperar que o perigo se torne realidade para então agir parece uma aposta arriscada demais.
───────────────────────────────────────────────
Alvaro Leme é doutorando e mestre em Ciências da Comunicação pela ECA-USP, jornalista e criador do podcast educativo Aprenda
ACESSO LIVRE COM VIVO FIBRA