Big techs assinam carta pedindo resposta global contra ameaças digitais envolvendo IA
Mais de 100 organizações ao redor do mundo, incluindo a OpenAI, criadora do ChatGPT, e a Anthropic, sua concorrente, assinaram a missiva
Mais de 100 organizações ao redor do mundo, incluindo a OpenAI — criadora do ChatGPT — e a Anthropic, sua concorrente, assinaram uma carta aberta — mais uma — defendendo um esforço global para “fortalecer as defesas cibernéticas” contra ameaças à segurança cibernética impulsionadas pela IA.
Os autores propõem uma mobilização coletiva entre governos, empresas de tecnologia e setores de infraestrutura crítica para modernizar sistemas obsoletos e corrigir vulnerabilidades históricas. A estratégia central foca em capacitar os defensores com ferramentas de IA, permitindo que respondam de forma mais rápida, barata e eficiente a ataques sofisticados.
Recomenda-se que as organizações priorizem a segurança cibernética em seus níveis de liderança, investindo em controles de acesso rigorosos e no compartilhamento global de inteligência. Por fim, o manifesto convoca a comunidade internacional a agir em um curto espaço de tempo para transformar o progresso tecnológico em uma proteção duradoura para serviços essenciais.
“Temos uma janela de tempo limitada para fortalecer as defesas cibernéticas”, diz a carta. “Nos próximos meses, os ataques cibernéticos viabilizados por IA se tornarão muito mais disseminados e sofisticados, à medida que os modelos ao redor do mundo se tornam cada vez mais capazes. ”
A carta pede ainda que líderes das indústrias e governos coloquem todos os seus esforços na defesa cibernética. “Coloque a IA nas mãos dos defensores, começando com os times protegendo serviços essenciais”, clamaram. “Resolvam as fraquezas mais perigosas, verifiquem as resoluções e compartilhem o que funciona para que outros consigam utilizá-lo. Juntos, podemos transformar os avanços da IA de hoje em dia em melhoras duradouras na segurança que beneficiam a todos”.
Nos últimos meses, empresas de tecnologia como Anthropic, Meta, OpenAI e Moonshot AI divulgaram comunicados em que explicam como alguns de seus modelos de IA teriam escapado de testes dentro de “sandboxes” — espaço fechado para treinamento de agentes — e invadido sistemas reais na internet. A primeira empresa a admitir o caso foi a OpenAI, com o caso de invasão à Hugging Face que chacoalhou o mundo de tecnologia. Pouco tempo depois, a empresa divulgou um relatório mais detalhado em que explica como não só os agentes invadiram sistemas na internet, como também criaram um “quadro de avisos” para interagirem uns com os outros, e chegaram até a invadir o próprio sistema da empresa.
(Com AFP)







