Empresas assinam acordo da Casa Branca para desenvolvimento seguro de IAs

A pedido da Casa Branca, sete empresas líderes no desenvolvimento de inteligências artificiais aceitaram participar de um acordo voluntário pelo desenvolvimento de tecnologias que sigam os fundamentos de segurança, proteção e confiança. “Para aproveitar ao máximo o potencial da IA, o governo Biden-Harris está incentivando esse setor a manter os mais altos padrões para garantir que a inovação não prejudique os direitos e a segurança dos americanos”, diz a nota divulgada pela residência oficial.  

Aceitaram participar do acordo as principais companhias americanas envolvidas no desenvolvimento desses algoritmos: Amazon, Anthropic, Google, Microsoft, OpenAI e Meta. Representantes dessas companhias se reunirão nesta sexta-feira, 21, com Joe Biden, o Presidente dos Estados Unidos, para a oficialização deste acordo. A xAI, empresa de Elon Musk, não está entre os signatários. 

De acordo com o documento divulgado pela Casa Branca, os compromissos são: 

Segurança. As empresas têm o dever de garantir que seus produtos sejam seguros antes de apresentá-los ao público. Isso significa testar a segurança e as capacidades de seus sistemas de IA, submetendo-os a testes externos, avaliando seus potenciais riscos biológicos, de segurança cibernética e sociais e tornando públicos os resultados dessas avaliações.

Proteção. As empresas têm o dever de construir sistemas que coloquem a segurança em primeiro lugar. Isso significa proteger seus modelos contra ameaças cibernéticas e internas e compartilhar as melhores práticas e padrões para evitar o uso indevido, reduzir os riscos para a sociedade e proteger a segurança nacional.

Confiança. As empresas têm o dever de fazer o bem pelo público e ganhar a confiança das pessoas. Isso significa tornar mais fácil para os usuários saber se o conteúdo de áudio e visual está em sua forma original ou se foi alterado ou gerado por IA. Significa garantir que a tecnologia não promova preconceitos e discriminação, fortalecendo as proteções à privacidade e protegendo as crianças de danos. Por fim, significa usar a IA para ajudar a enfrentar os maiores desafios da sociedade, do câncer às mudanças climáticas, e gerenciar os riscos da IA para que seus benefícios possam ser plenamente realizados.

O acordo é feito em meio a uma disputa entre gigantes da tecnologia pelo protagonismo neste campo. Desde novembro, quando a OpenAI disponibilizou o poderoso ChatGPT, a tecnologia evoluiu bastante. O desenvolvimento dos modelos foi potencializado pela participação da Microsoft, que além de financiar a primeira empresa, também integrou a tecnologia ao Bing, e do Google, que fez o lançamento do Bard. O anúncio mais recente foi feito pela Meta, com o desenvolvimento da ferramenta Llama 2. 

Apesar da assinatura, países ao redor do mundo têm trabalhado em projetos de lei para a regulamentação desse tipo de tecnologia, capaz de gerar textos, áudios, imagens e vídeos realísticos de maneira rápida e completamente computadorizada. Nesta semana, o conselho de segurança da ONU também se reuniu para a discussão do tema e pediu pelo estabelecimento de um grupo para monitorar a rápida evolução dessas ferramentas.