O que levou funcionários da Anthropic a acusar empresa de buscar o ‘fim da humanidade’

Compartilhe essa matéria:

Link copiado!

Priorize VEJA no Google

Na última terça-feira, 8, o ex-funcionário da empresa de inteligência artificial Anthropic, responsável pelo Claude, Jacob Coxon, publicou uma thread em seu X (antigo Twitter), em que acusa a empresa de acreditar que a IA pode “matar a todos até o fim da década” e ignorar riscos iminentes no desenvolvimento de suas inteligências “super poderosas”. Após o anúncio, uma série de usuários nas redes acusaram Coxon de fazer parte de um truque para impedir o avanço da tecnologia. Ao mesmo tempo, outros funcionários da Anthropic vieram a público e concordaram com suas falas. 

Jacob Coxon é um ex-funcionário da Anthropic e da OpenAI, que trabalhou na área de pesquisa em tecnologia. Segundo seus próprios posts nas redes sociais, ele se demitiu na última terça-feira de seu cargo na Anthropic por discordar do caminho escolhido pela empresa para o desenvolvimento de suas inteligências artificiais. Em sua sequência de publicações (a thread), ele acusa as duas empresas de não serem responsáveis, e de estarem em uma “corrida em linha reta até uma super inteligência artificial que pode melhorar a si mesma, e apostar com nossas vidas”. 

As postagens

Siga

ENTRAR NO CANAL

GOOGLE NEWS

GOOGLE DISCOVER

Seguir no Instagram

Seguir no YouTube

Seguir no Facebook

Seguir no X

Seguir no Linkedin

Seguir no Threads

Seguir no Tiktok

Seguir no Telegram

Na sequência de sete postagens encadeadas, ele continua com as reclamações e classifica os sistemas de IA atuais — que já geram polêmicas frequentes, como o caso Hugging Face e as revelações recentes da Anthropic — como um grupo de agentes que “logo serão sistemas super humanos que poderão hackear qualquer coisa, revolucionar qualquer área em uma noite, e adquirir poder e recursos reais”. 

O delator afirma ainda que os funcionários e engenheiros responsáveis pela produção das IAs têm plena consciência do perigo, e que eles “acreditam fielmente que [a IA] pode nos matar até o fim da década”. De acordo com Coxon, executivos e pesquisadores podem diminuir a preocupação em público, mas “expressam medo em segredo”. 

Outros funcionários

Após a viralização das postagens, alguns outros funcionários da Anthropic reagiram aos comentários de Coxon confirmando suas acusações. Evan Hubinger, diretor de alinhamento científico na criadora do Claude, respondeu à publicação de Coxon com uma afirmação. “Jacob está correto — nós realmente e sinceramente acreditamos que a IA pode matar todos os humanos! Eu pessoalmente acredito que [as chances] são mais de 10% durante a próxima década”, revelou. “Eu acredito que a Anthropic está fazendo o melhor que pode, mas nós não temos um plano para alinhar a superinteligência e claramente não estamos no caminho para isso”, finalizou.

A publicação de Hubinger foi feita às 22h27 da terça-feira, próximo do horário em que Coxon fez sua sequência de postagens, perto das 21h. O diretor de alinhamento científico da Anthropic publicou algumas horas depois, às 0h30, uma sequência da sua postagem inicial que “confirma” as acusações de Coxon. O novo post alivia as opiniões, sugere que o risco para as IAs atuais é baixo e sugere a leitura do último Relatório de Risco da empresa. 

Anna Wang, também funcionária da Anthropic, trouxe outra resposta às publicações de Coxon, mas com o mesmo tom de seus outros colegas de empresa. Wang declarou que já trabalhou para a equipe do Google DeepMind, e que assim como outros amigos na área, o sentimento descrito por Jason é “comum” entre eles. “Ainda não há um plano científico viável para resolver os riscos da IA que evolui a si mesma”, afirmou em seu X. 

Drake Thomas, também funcionário da Anthropic e também através do X, afirmou que “as coisas estão mudando muito rápido”, e que “não há qualquer nível de segurança sobre o desenvolvimento da inteligência artificial super inteligente”. 

Outro funcionário da Anthropic, Samuel Marks, também comentou sobre o ocorrido. Marks resumiu as postagens de Coxon para outros usuários, e concordou de forma geral com as afirmações dele. Ele ainda finalizou explicando como, em seu caso, escolheu permanecer em trabalhos de desenvolvimento dessa tecnologia para conseguir diminuir ou até impedir o avanço das IAs até fins de “extinção”.

Reações contrárias

Apesar das afirmações de funcionários da empresa, usuários das redes logo acusaram Coxon e os outros de planejarem algum tipo de “armadilha”. O intuito seria dar margem para que governos, em especial o dos Estados Unidos, formassem um cerco às empresas de inteligência artificial e impedissem legalmente o avanço da tecnologia. 

Elon Musk, dono da SpaceX e da xAI, empresa de inteligência artificial rival da Anthropic e OpenAI, também se manifestou. Em resposta às postagens de Coxon, ele disse que toda a ação seria um “psyops” — um tipo de ação psicológica de guerra — e uma armadilha para impedir os avanços da inteligência artificial.