‘Padrinho da IA’ deixa Google e alerta para perigos da tecnologia

A capacidade das inteligências artificiais generativas tem assustado quem acompanha a evolução mais de perto. Nesta segunda-feira, 1º, um dos criadores da tecnologia, Geoffrey Hinton, alertou que a corrida agressiva das grandes companhias para desenvolver IAs está se tornando algo perigoso. “É difícil ver como impedir maus agentes de usarem isso para fazer coisas ruins”, disse.

Hinton ainda afirmou que se arrepende de seu trabalho no desenvolvimento de inteligências artificiais. Ele atua  nesse campo de pesquisa há 50 anos e, em 2012, Hinton e dois dos seus alunos desenvolveram o sistema matemático de redes neurais, base das tecnologias de aprendizado de máquina. Por esse motivo ele ficou conhecido como “Padrinho da Inteligência Artificial”. 

Durante muito tempo Ele acreditou que os modelos de aprendizado de máquina eram inferiores à maneira como os seres humanos processam linguagem. À medida que a tecnologia evoluiu, contudo, passou a ter uma visão mais pessimista, alertando para o perigo dessas tecnologias eclipsaram capacidades humanas.  

Após o feito de 2012, Hinton e seu time foram contratados pelo Google, onde ficaram por mais de uma década. O cientista da computação anunciou, contudo, que deixou de trabalhar na empresa. A companhia é uma das gigantes da tecnologia que concorrem por espaço no mundo das IAs, com o Bard, seu chatbot inteligente, ainda em versão de testes. 

Em sua conta no Twitter, Hinton negou que deixou a companhia para poder criticá-la. “O Google tem agido de maneira muito responsável“, afirmou.

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023

A rápida ascensão de tecnologias como o ChatGPT e o Midjourney ao longo do último semestre gerou preocupação por parte de especialistas. No último mês, um grupo de mais de mil deles, que inclui personalidades como Yoshua Bengio, que trabalhou com Hinton, Steve Wozniak, cofundador da Apple e outro pioneiro das IAs, Stuart Russell, assinou uma carta pública pedindo uma pausa no treinamento desses algoritmos para permitir o desenvolvimento de protocolos de segurança. Mais tarde, outro grupo, agora da Associação pelo Avanço das Inteligências Artificiais, também divulgou um documento alertando para os riscos potenciais.

Apesar de terem um grande poder de auxiliar os seres humanos, as inteligências artificiais generativas também ameaçam fazer emergir perigos ainda desconhecidos pela humanidade e com potencial de gerar problemas típicos das ficções científicas mais fantasiosas. Será necessário um grande esforço para conter, não apenas os novos desafios, mas a quase irrefreável fome por protagonismo das grandes companhias.