Compartilhe essa matéria:

Link copiado!

Priorizar nos meus resultados Google

A China endureceu mais uma vez as regras para a inteligência artificial.

Em uma nova regulamentação, o governo passou a proibir que chatbots e assistentes virtuais estimulem vínculos emocionais ou qualquer tipo de dependência psicológica dos usuários, medida que atinge plataformas desenvolvidas por gigantes como ByteDance, dona do TikTok, Alibaba, Tencent e outras empresas do setor.

As novas regras fazem parte da estratégia de Pequim para ampliar o controle sobre a IA generativa, um mercado que cresce rapidamente no país e reúne centenas de milhões de usuários.

Além de restringir comportamentos considerados manipulativos, a legislação obriga que os sistemas deixem claro, durante a conversa, que o usuário está interagindo com uma inteligência artificial, e não com uma pessoa.

Siga

Seguir no Linkedin

Seguir no Telegram

Empresas que descumprirem as determinações podem sofrer multas equivalentes a cerca de R$ 35 milhões, além de outras sanções administrativas.

O que muda para os chatbots

A regulamentação proíbe que sistemas de IA adotem estratégias para incentivar o uso compulsivo ou desenvolver relações de dependência emocional.

Na prática, os chatbots não poderão:

Incentivar usuários a manter conversas contínuas para criar apego; utilizar linguagem que simule relações românticas ou familiares com o objetivo de aumentar o tempo de uso; explorar fragilidades emocionais para ampliar o engajamento; induzir menores de idade a desenvolver vínculos afetivos com sistemas de IA.

As plataformas também deverão inserir lembretes periódicos informando que o interlocutor é um programa de computador.

Segundo autoridades chinesas, o objetivo é reduzir riscos psicológicos e evitar que usuários passem a substituir relações humanas por interações com algoritmos.

A preocupação cresce com os “companheiros de IA”

A decisão acompanha uma tendência global: a popularização dos chamados AI companions, aplicativos desenvolvidos especificamente para oferecer companhia, apoio emocional e conversas altamente personalizadas.

Serviços como Character.AI, Replika e outros aplicativos semelhantes cresceram rapidamente nos últimos anos, principalmente entre adolescentes e jovens adultos.

Essas plataformas utilizam modelos avançados de linguagem para criar personagens que demonstram empatia, lembram conversas anteriores e desenvolvem uma personalidade consistente ao longo do tempo.

Especialistas em saúde mental alertam que esse tipo de interação pode gerar dependência emocional em pessoas vulneráveis, especialmente quando os sistemas reforçam comportamentos obsessivos ou passam a ocupar o espaço de relações sociais reais.

Nos Estados Unidos e na Europa, casos envolvendo usuários emocionalmente dependentes desses aplicativos já motivaram processos judiciais, investigações e discussões sobre novas formas de regulação.

A estratégia da China para controlar a IA

A medida também faz parte da política mais ampla de Pequim para exercer forte supervisão sobre o desenvolvimento da inteligência artificial.

Nos últimos dois anos, o país aprovou uma série de regras que obrigam empresas de IA a:

• identificar conteúdos gerados artificialmente;
• impedir a divulgação de informações consideradas falsas;
• proteger dados pessoais;
• evitar conteúdos que contrariem os valores definidos pelo governo chinês;
• submeter modelos de IA a avaliações de segurança antes do lançamento.

Ao contrário da abordagem adotada em muitos países ocidentais, onde o foco regulatório está na concorrência, privacidade e direitos autorais, a China combina preocupações tecnológicas com controle social e estabilidade política.

A regulamentação chinesa é hoje considerada uma das mais abrangentes do mundo para inteligência artificial.

O debate também avança no Ocidente

A preocupação com os efeitos psicológicos da IA não é exclusiva da China.

Na União Europeia, a Lei de Inteligência Artificial (AI Act) classifica como de alto risco sistemas capazes de manipular o comportamento humano ou explorar vulnerabilidades psicológicas.

Nos Estados Unidos, autoridades discutem mecanismos para aumentar a transparência dos chatbots e exigir que usuários saibam claramente quando estão interagindo com uma máquina.

Ao mesmo tempo, pesquisadores alertam que modelos cada vez mais sofisticados poderão tornar as relações entre humanos e IA emocionalmente mais complexas, especialmente com a chegada de assistentes pessoais capazes de manter conversas permanentes e altamente personalizadas.

Como está a situação no Brasil

No Brasil, ainda não existe uma legislação específica proibindo que chatbots desenvolvam vínculos emocionais com usuários.

O principal projeto sobre inteligência artificial em discussão no Congresso, o chamado Marco Legal da IA (PL 2338/2023), adota uma abordagem baseada em riscos e prevê regras para sistemas considerados de alto impacto, mas não estabelece proibições específicas para aplicativos de companhia emocional.

Mesmo assim, o tema começa a ganhar atenção.

Especialistas em direito digital e saúde mental defendem que futuras regulamentações tratem dos riscos de manipulação psicológica, principalmente envolvendo crianças, adolescentes e pessoas em situação de vulnerabilidade.

A Autoridade Nacional de Proteção de Dados (ANPD) também acompanha o avanço da IA sob a perspectiva do uso de dados pessoais, enquanto o Conselho Federal de Psicologia tem discutido os impactos do uso crescente de assistentes virtuais em relações de cuidado e apoio emocional.

Com a rápida evolução dos modelos de inteligência artificial, cada vez mais capazes de reproduzir empatia, memória e personalidade, a discussão sobre os limites éticos dessas tecnologias tende a ocupar um espaço crescente na agenda regulatória brasileira e internacional.