França debate os limites éticos do uso de IA na segurança das Olimpíadas
Projeto de lei aprovado no senado abre caminho para sistemas inteligentes de segurança
A inteligência artificial vem impondo inúmeros desafios à sociedade moderna. Na França, legisladores debatem os limites éticos para o uso de sistemas de segurança pública equipados com inteligência artificial nos Jogos Olímpicos e Paraolímpicos de Paris, que acontecerão em 2024. Os críticos ao projeto argumentam que a tecnologia destrói a privacidade dos cidadãos e estigmatiza alguns grupos sociais, enquanto os favoráveis defendem que o uso será restrito a eventos de grande porte e podem proporcionar mais segurança aos participantes.
O projeto de lei em questão legalizaria o uso dos chamados “sistemas inteligentes de vigilância” nos Jogos de Paris. Os sistemas combinam câmeras com softwares de inteligência artificial capazes de sinalizar possíveis problemas para a segurança coletiva, como aglomerações de pessoas ou pacotes abandonados. A decisão de como proceder nesse cenário ainda será determinada por operadores e analistas humanos. Os partidários do novo sistema acreditam que essas ferramentas tecnológicas podem evitar desastres e ataques terroristas.
Defensores dos direitos digitais, porém, encabeçam uma campanha contra a lei. Entre os motivos, estaria a violação da lei internacional de Direitos Humanos – com o projeto aprovado a França seria o primeiro país da União Europeia a legalizar o uso de inteligência artificial em sistemas de segurança pública -. Para o grupo, a incorporação deste tipo de tecnologia poderia levar o país a um estado distópico de vigilância permanente, além de ser um ataque ao direito à privacidade e liberdade de reunião. A tecnologia poderia, ainda, estigmatizar grupos marginalizados como pessoas em situação de rua ou imigrantes. A lei não prevê o uso de reconhecimento facial, mas autoriza a avaliação de determinadas características físicas, incluindo as posturas e gestos corporais e o modo de andar. O projeto também abre caminho para o uso da tecnologia com câmeras montadas em drones. Durante as discussões da Assembleia Nacional, a legisladora da oposição Sandra Regol argumentou que isso transformaria os visitantes olímpicos em “cobaias” para vigilância por IA.
O projeto foi aprovado com folga no Senado, por 245 votos a 28, e aguarda a definição da Assembleia Nacional, caso seja aprovado, ajustes poderão ser feitos e o sistema poderá ser adotado até o final de abril.