Unesco pede regulação para inteligência artificial generativa nas escolas

A Organização das Nações Unidas para a Educação, a Ciência e a Cultura (Unesco) publicou nesta quinta-feira, 7, guia com orientações para uso de inteligência artificial generativa nas escolas. Em Orientação da Unesco, a agência da ONU pede aos governos que regulem a tecnologia no ensino, além de capacitar melhor os professores para poderem explorá-la da melhor maneira nas salas de aula.

O guia tem como base resoluções de 2019 (Consenso de Pequim sobre Inteligência Artificial na Educação), 2021 (Recomendação da Unesco sobre a Ética da IA) e deste ano, na primeira mesa redonda ministerial global da agência sobre IA generativa. A partir destas diretrizes, estabelece sete passos principais que os governos devem tomar para regular a inteligência artificial generativa e estabelecer sua utilização ética na educação e na pesquisa, por meio da adoção de normas globais, regionais e nacionais de proteção de dados e privacidade. Entre outras regras, sugere que só se use a ferramenta com alunos a partir dos 13 anos.

O guia da Unesco explica o que é inteligência artificial generativa e como funciona, além de expor as controvérsias em torno da nova tecnologia e as suas implicações para a educação, em especial o modo como está aprofundando as diferenças digitais. Entre outras coisas, o documento mostra como os modelos atuais do ChatGPT, desenvolvido pela OpenAI, são baseados em dados de utilizadores que refletem os valores e as normas dominantes no hemisfério norte.

Para Audrey Azoulay, diretora-geral da Unesco, a IA generativa pode ser vista como uma oportunidade para o desenvolvimento humano, mas também pode causar danos e preconceitos. “Não pode ser integrado na educação sem o envolvimento público e as salvaguardas e regulamentações necessárias por parte dos governos”, disse ela, em nota. “Esta Orientação da Unesco ajudará os decisores políticos e os professores a explorar melhor o potencial da IA para o interesse principal dos alunos.”

A IA generativa atingiu o ápice da popularidade em novembro de 2022, com o lançamento do ChatGPT, aplicativo de crescimento mais rápido da história. Com o poder de gerar resultados como texto, imagens, vídeos, música e códigos de software, estas ferramentas têm consequências de longo prazo e alcance para a educação e a pesquisa científica.

O problema é que o setor da educação está despreparado para lidar com esse tipo de tecnologia disruptiva. Uma pesquisa recente da Unesco em mais de 450 escolas e universidades mostrou que menos de 10% delas tinham políticas institucionais e/ou orientações formais para a utilização desse tipo de aplicativo. A razão: falta de políticas públicas em todas as esferas.

Em junho, a Unesco publicou artigo no qual mostrava que as escolas estavam adotando ferramentas de IA generativa muito rápido, sem esperar pelo escrutínio público, verificações ou regulamentações. Comparativamente, um livro exige mais autorizações para ser publicado do que usar ferramentas tecnológicas em sala de aula.