A aliança da Nvidia com empresas de tecnologia para desenvolver IA de cibersegurança
Movimento vem após incidente em que modelos da OpenAI “escaparam” de teste e invadiram sistemas da biblioteca de modelos Hugging Face
A Nvidia e mais de 30 outras empresas do ramo de tecnologia lançaram nesta segunda-feira, 27, uma aliança global para desenvolver ferramentas de inteligência artificial (IA) de código aberto, com o objetivo de criar e promover ferramentas livres para defesa em cibersegurança. O movimento vem dois dias após mais de 70 empresas assinarem uma carta em defesa aos modelos de IA open weight — similar ao conceito de código aberto — e cerca de uma semana após o incidente da OpenAI, em que modelos em fase de teste da empresa “escaparam” de um espaço controlado e invadiram os sistemas da “biblioteca” de IAs Hugging Face.
A aliança anunciada pela Nvidia foi chamada de Open Secure AI Alliance, e tem como outros membros fundadores a Adobe, IBM, Microsoft, Dell, Palantir, SpaceX, dentre outras empresas do ramo. O comunicado que anuncia a fundação do grupo argumenta que “o mundo precisa de modelos de código fechado e aberto”, por razões de cibersegurança. Para eles, modelos abertos seriam essenciais para “democratizar capacidades de defesa”, apesar de também servirem como tecnologia com potencial de abuso.
Como exemplo, citaram o recente caso da empresa Hugging Face, em que modelos de IA da OpenAI escaparam, segundo a empresa, de um ambiente controlado de testes, causando a invasão à biblioteca de modelos. De acordo com o comunicado da aliança, só foi possível impedir o ataque pelo uso do modelo open weight — ou seja, um tipo de modelo disponível para que outros baixem, inspecionem, modifiquem e rodem em suas próprias máquinas — GLm 5.2, da Z.ai, empresa chinesa.
A Nvidia também anunciou as medidas que empresas fundadores da aliança já têm tomado para desenvolver ferramentas de código aberto no mundo das IAs. O Laboratório da Nvidia para Agentes Orientados a Objetos (NOOA) está disponível no GitHub, a Hugging Face disponibilizou o Safetensors, um formato seguro para guardar modelos de IAs, e a SpaceX tornou aberto o Grok Build, agente de IA da empresa que atua com programação diretamente nos terminais.
Com crescente rivalidade entre as empresas de IA americanas e os modelos chineses, legisladores avaliaram impor limites ao uso de sistemas da China, como forma de conter seus avanços, em especial após a interrupção do ataque da OpenAI por um modelo chinês. Apesar disso, o Vale do Silício se opõe às restrições. Para eles, os modelos de código aberto são de suma importância, assim como os open weight, e os legisladores deveriam observar os modelos abertos como “ativos defensivos, não passivos”.
As alianças entre gigantes da tecnologia vem durante um momento crucial para as companhias. Na última sexta-feira, 24, mais de 70 empresas do ramo assinaram uma carta em defesa à liberdade do código aberto e aos modelos open weight, vistos como essenciais para o desenvolvimento de novas tecnologias, cada vez mais robustas, similar ao uso do código aberto para outros softwares. Na carta, as companhias defenderam a liderança americana na corrida pela IA. “A América ganhará a era da IA ao difundi-lá nos fluxos de trabalho de fábricas, hospitais, fazendas, salas de aula e comércios nas ruas”, defenderam.







