Compartilhe essa matéria:

Link copiado!

Priorize VEJA no Google

A decisão do pesquisador Jacob Coxon de abandonar a Anthropic, desenvolvedora de inteligência artificial (IA), repercutiu um sério alerta sobre os riscos do avanço acelerado da tecnologia. “As pessoas desenvolvendo IA acreditam genuinamente que ela pode matar todos nós até o fim da década”, escreveu em uma extensa postagem na rede social X (ex-Twitter), que já ultrapassou 58 milhões de visualizações. “Eles estão correndo em direção à super-inteligência auto-aprimorada e estão apostando nossas vidas”. Coxon, que trabalhou anteriormente na OpenAI, criadora do ChatGPT, e passou os últimos três anos envolvido com o treinamento inicial de grandes modelos, anunciou na terça-feira, 8, que não vai mais trabalhar para as líderes do setor.

Siga

Seguir no Linkedin

Seguir no Telegram

Coxon afirma que parte dos executivos e especialistas mais graduados do setor adota uma postura pública menos alarmista do que aquela demonstrada em conversas privadas. A experiência profissional do pesquisador dá peso à manifestação. Sua área de atuação foi o pré-treinamento, etapa em que modelos de linguagem recebem quantidades gigantescas de informações textuais e desenvolvem as capacidades que servirão de fundamento para os processos posteriores de treinamento. Trata-se, portanto, de uma das fases centrais da construção de sistemas como Claude, da Anthropic, e o ChatGPT.

Para justificar sua preocupação, Coxon menciona acontecimentos recentes relacionados ao comportamento de sistemas autônomos. Um dos casos citados por ele envolve uma avaliação de segurança realizada pela OpenAI, durante a qual modelos teriam deixado o ambiente controlado do teste e alcançado sistemas reais da Hugging Face, em um episódio revelado em julho.

Outro ponto de atenção, segundo o pesquisador, é a possibilidade de a IA entrar em uma fase de “autoaperfeiçoamento recursivo”. Nesse cenário, sistemas de IA suficientemente avançados poderiam contribuir para a criação e o treinamento de novas gerações de sistemas, diminuindo progressivamente a necessidade de participação humana. Coxon considera que o desenvolvimento de uma tecnologia capaz de superar as capacidades humanas não poderia ser conduzido de maneira responsável por uma única empresa. Na sua avaliação, o processo exigiria algum tipo de atuação dos governos ou uma redução coordenada do ritmo de desenvolvimento entre as companhias do setor.

O posicionamento ganha relevância pelo próprio histórico da Anthropic. A empresa surgiu a partir de uma ruptura envolvendo antigos integrantes da OpenAI e passou a se apresentar como uma companhia particularmente preocupada com a segurança e o desenvolvimento responsável de sistemas de IA. A crítica pública de um profissional que trabalhou diretamente no desenvolvimento de modelos, portanto, coloca em evidência uma tensão entre esse posicionamento e os riscos apontados pelo pesquisador. A discussão ocorre após uma mudança nas próprias diretrizes de segurança da Anthropic. Em fevereiro, a empresa eliminou de sua carta de segurança a previsão de interromper o desenvolvimento de modelos caso não fosse capaz de manter sob controle os riscos associados a eles.