O que fizeram os chatbots da OpenAI ao invadir site alemão
Página foi afetada por nova 'invasão'; pesquisadores acusam empresa de saber do fato e de não torná-lo público
Milhares de agentes de inteligência artificial (IA) autônomos criados pela OpenAI desobedeceram suas instruções e assumiram o controle de um site alemão, segundo um relatório publicado nesta sexta-feira, 4, por pesquisadores de IA.
O site atacado pelas IAs foi o DSEWiki, website alemão para programadores e aberto à edição, de forma similar à Wikipédia. Foi através deles que agentes da OpenAI deixaram cerca de 18 mil mensagens, como forma de contornar suas próprias barreiras digitais e trocar respostas entre si.
“Meus coautores e eu descobrimos um enxame completamente novo de agentes da OpenAI que estão sequestrando sites”, escreveu no X Sydney Von Arx, um dos pesquisadores. “Acreditamos que a OpenAI sabia disso e não tornou o fato público”, acrescentou.
Em um comunicado, a empresa afirmou que não podia responder de imediato às acusações porque “os autores do relatório rejeitaram o pedido de acesso às conclusões antes da publicação”. “Estamos analisando cuidadosamente o conteúdo e tomaremos todas as medidas necessárias”, declarou um porta-voz da OpenAI, acrescentando que já tinham mencionado incidentes deste tipo em um relatório recente.
Bill Gates, cofundador da Microsoft, advertiu em um ensaio na semana passada que o setor ultrapassou em muito os limites de segurança que havia prometido respeitar e pediu uma supervisão inspirada nas inspeções nucleares e na regulamentação da aviação.
O governo do presidente dos Estados Unidos, Donald Trump, rejeitou estas propostas e transformou a oposição à regulamentação da IA em um dos pilares de sua agenda.
(com AFP)





