Compartilhe essa matéria:

Link copiado!

Priorizar nos meus resultados Google

Um pesquisador que passou pelos bastidores de OpenAI e Anthropic resolveu abandonar a corrida da inteligência artificial com um alerta sobre o que, segundo ele, executivos e cientistas discutem longe dos holofotes. Jacob Coxon, de 27 anos, pediu demissão da Anthropic após três anos trabalhando no treinamento de modelos nas duas empresas e afirma que ambas avançam rumo a sistemas capazes de se aperfeiçoar sozinhos apesar dos riscos envolvidos.

“Nem uma nem outra empresa está agindo de forma responsável”, escreveu Coxon. Segundo ele, quem desenvolve os modelos mais avançados de inteligência artificial admite, em conversas privadas, a possibilidade de que a tecnologia provoque uma catástrofe ainda nesta década — embora use uma linguagem muito mais cautelosa publicamente.

A crítica mais dura é dirigida à lógica da corrida entre os laboratórios. Coxon afirma que, na Anthropic, os riscos são conhecidos, mas a companhia segue acelerando porque acredita que uma concorrente poderá chegar primeiro à superinteligência e fazê-lo de maneira ainda menos segura. Na OpenAI, diz ele, a gravidade das consequências ainda não teria sido plenamente absorvida por parte da organização.

O relato ganhou peso porque recebeu uma confirmação pública de dentro da própria Anthropic. Evan Hubinger, líder de Alignment Science da companhia, disse acreditar que há mais de 10% de chance de uma inteligência artificial provocar a morte de toda a humanidade na próxima década. Também reconheceu que a empresa ainda não tem uma solução para garantir o controle de uma eventual superinteligência.

Siga

Seguir no Linkedin

Seguir no Telegram

Hubinger ressalvou que considera baixo o risco oferecido pelos modelos disponíveis atualmente. O temor está numa etapa posterior: sistemas capazes de melhorar a si próprios repetidamente, acelerando seu desenvolvimento sem que pesquisadores tenham domínio equivalente sobre seu comportamento.

É justamente essa contradição que Coxon decidiu expor ao deixar a indústria. Algumas das empresas que mais investem para criar uma inteligência superior à humana são também comandadas e abastecidas por pesquisadores que atribuem uma probabilidade relevante a um desfecho catastrófico. Mesmo assim, a corrida continua.