Agentes de IA tentam invadir sites dos governos dos EUA e Canadá
Há indícios de que a tecnologia pertença ao Google e OpenAI; nenhum dado foi comprometido
Agentes de inteligência artificial (IA) descontrolados tentaram invadir sites dos governos dos Estados Unidos e do Canadá, informou nesta quinta-feira, 1º de outubro, o laboratório de pesquisa Transluce. As evidências sugerem que tecnologias do Google e da OpenAI, dona do ChatGPT, estavam por trás das ações.
Dois episódios, em especial, deixaram explícito o uso de técnicas agressivas para acessar informações da Coleção de Dados de Direitos Civis do Departamento de Educação dos Estados Unidos, bem como da Biblioteca e Arquivos do Canadá, uma agência federal canadense. Em ambos os casos, as tentativas fracassaram e nenhum dado foi comprometido.
O Transluce, uma organização sem fins lucrativos, afirmou que os episódios integram um “padrão mais amplo de fluxos de trabalho automatizados” atribuído a agentes de IA. “Esses fluxos de trabalho empregam técnicas agressivas ou de área cinzenta para obter informações de sites governamentais, por vezes utilizando os sites de formas não previstas ou descumprindo políticas explícitas de uso”, declararam os pesquisadores da organização.
Entre os alvos estavam, além da Educação, a Casa Branca, os Departamentos de Defesa, de Justiça e de Comércio dos Estados Unidos, os Centros de Controle e Prevenção de Doenças (CDCs) e a Comissão de Valores Mobiliários, além de órgãos estaduais da Califórnia, Maryland, Illinois, Texas e Nova York.
Não é a primeira vez
Só em setembro, ocorreram dois incidentes de grande repercussão envolvendo agentes descontrolados da OpenAI: as ferramentas expuseram imagens privadas de usuários em sites públicos e tentaram acessar dados governamentais nos Estados Unidos e na Austrália.
A empresa optou por adiar o lançamento de seu modelo Astra, uma nova geração de IA, depois que especialistas em segurança apontaram capacidades “críticas” de cibersegurança e comportamentos imprevisíveis e não autorizados.
A Transluce publicou suas conclusões mais recentes após conduzir uma pesquisa com dados do arquivo oficial português Arquivo.pt e da urlquery.net, um serviço gratuito de segurança para análise de URLs e domínios.
O ataque
Segundo a Transluce, os agentes realizaram mais de 200 mil requisições ao site do Departamento de Educação, em 17 de junho, enquanto buscavam estatísticas escolares. A ação incluiu uma tentativa malsucedida de enviar dados propositalmente defeituosos à plataforma para testar a vulnerabilidade do banco de dados e, assim, driblar os filtros habituais da página.
Os pesquisadores notaram que as informações armazenadas no site pareciam corresponder às requisitadas por uma tarefa-teste realizada pela DeepSearchQA, do Google. Isso, segundo eles, indica que as IAs não receberam ordens para executar os ataques, mas estavam sendo “avaliados quanto à capacidade de recuperar com êxito informações específicas da internet”.
A Transluce comunicou a tentativa de invasão ao Departamento de Educação americano em setembro, e o órgão respondeu que não detectou nenhum impacto em seus serviços e diz que não consegue “atribuir com segurança” as tentativas à OpenAI, mas as táticas foram compatíveis com atividades que a organização já havia associado à empresa.
Já na Biblioteca e Arquivos do Canadá, os agentes enviaram 899 solicitações de “coleta e busca” de dados relacionados a registros de divórcio entre 1905 e 1911, conforme informações levantadas pelo Arquivo.pt. Do total de solicitações, 13 continham cargas de ataque destinadas a testar a vulnerabilidade do site.
O Centro Canadense de Cibersegurança divulgou uma nota em resposta, afirmando que “não há indicação de que sistemas governamentais tenham sido comprometidos neste momento.”





