‘Padrinho da IA’ deixa Google e alerta para perigos da tecnologia

Geoffrey Hinton disse se arrepender do trabalho que permitiu o desenvolvimento das inteligências artificiais

Por Luiz Paulo Souza SEGUIR SEGUINDO Atualizado em 12 Maio 2023, 10h24 - Publicado em 1 Maio 2023, 16h57

Dr. Geoffrey E. Hinton, Professor Emeritus, the University of Toronto and Chief Scientific Adviser, Vector Institute, speaks during an exclusive interview by the Yomiuri Shimbun at a Tokyo hotel in Chiyoda Ward, Tokyo on Nov. 18, 2019. Dr. Hinton, known as " Godfather of Ai" has been awarded Japanese Honda Foundation, for his pioneering research in the field of deep learning in artificial intelligence and his contribution to practical application of the technology. ( The Yomiuri Shimbun ) (Photo by Masahiro Sugimoto / Yomiuri / The Yomiuri Shimbun via AFP) — Geoffrey E. Hinton, Padrinho da IA, deixa Google, diz se arrepender de seu trabalho e alerta para perigos da tecnologia (Masahiro Sugimoto/AFP)

A capacidade das inteligências artificiais generativas tem assustado quem acompanha a evolução mais de perto. Nesta segunda-feira, 1º, um dos criadores da tecnologia, Geoffrey Hinton, alertou que a corrida agressiva das grandes companhias para desenvolver IAs está se tornando algo perigoso. “É difícil ver como impedir maus agentes de usarem isso para fazer coisas ruins”, disse.

Hinton ainda afirmou que se arrepende de seu trabalho no desenvolvimento de inteligências artificiais. Ele atua nesse campo de pesquisa há 50 anos e, em 2012, Hinton e dois dos seus alunos desenvolveram o sistema matemático de redes neurais, base das tecnologias de aprendizado de máquina. Por esse motivo ele ficou conhecido como “Padrinho da Inteligência Artificial”.

Durante muito tempo Ele acreditou que os modelos de aprendizado de máquina eram inferiores à maneira como os seres humanos processam linguagem. À medida que a tecnologia evoluiu, contudo, passou a ter uma visão mais pessimista, alertando para o perigo dessas tecnologias eclipsaram capacidades humanas.

Após o feito de 2012, Hinton e seu time foram contratados pelo Google, onde ficaram por mais de uma década. O cientista da computação anunciou, contudo, que deixou de trabalhar na empresa. A companhia é uma das gigantes da tecnologia que concorrem por espaço no mundo das IAs, com o Bard, seu chatbot inteligente, ainda em versão de testes.

Em sua conta no Twitter, Hinton negou que deixou a companhia para poder criticá-la. “O Google tem agido de maneira muito responsável“, afirmou.

Continua após a publicidade

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023

A rápida ascensão de tecnologias como o ChatGPT e o Midjourney ao longo do último semestre gerou preocupação por parte de especialistas. No último mês, um grupo de mais de mil deles, que inclui personalidades como Yoshua Bengio, que trabalhou com Hinton, Steve Wozniak, cofundador da Apple e outro pioneiro das IAs, Stuart Russell, assinou uma carta pública pedindo uma pausa no treinamento desses algoritmos para permitir o desenvolvimento de protocolos de segurança. Mais tarde, outro grupo, agora da Associação pelo Avanço das Inteligências Artificiais, também divulgou um documento alertando para os riscos potenciais.

Apesar de terem um grande poder de auxiliar os seres humanos, as inteligências artificiais generativas também ameaçam fazer emergir perigos ainda desconhecidos pela humanidade e com potencial de gerar problemas típicos das ficções científicas mais fantasiosas. Será necessário um grande esforço para conter, não apenas os novos desafios, mas a quase irrefreável fome por protagonismo das grandes companhias.