A China avançou na tentativa de controlar o uso de inteligência artificial voltada ao público. No sábado (27), o órgão regulador de cibersegurança do país publicou um projeto em consulta pública que propõe regras específicas para sistemas de IA capazes de simular comportamentos humanos e estabelecer vínculos emocionais com usuários.
A iniciativa integra a estratégia de Pequim para orientar a rápida expansão das tecnologias de IA no mercado consumidor, com ênfase em critérios de segurança, ética e responsabilidade. O foco são sobretudo serviços que adotam traços de personalidade, padrões de raciocínio e estilos de comunicação semelhantes aos de pessoas reais.
Segundo a agência Reuters, as regras abrangeriam produtos e plataformas que interagem emocionalmente com usuários por meio de texto, imagem, áudio ou vídeo. A proposta pretende criar um marco regulatório mais rígido para aplicações que têm ganhado espaço em assistentes virtuais, chatbots avançados e outras ferramentas digitais.
Entre as exigências centrais está a obrigação de informar os usuários sobre os riscos do uso excessivo dessas tecnologias e de intervir ao identificar sinais de dependência ou envolvimento emocional prejudicial. As empresas também terão responsabilidades ampliadas ao longo de todo o ciclo de vida dos produtos de IA, incluindo revisão de algoritmos, medidas de segurança de dados e proteção de informações pessoais.
O texto propõe ainda que os provedores monitorem o estado emocional dos usuários, avaliando níveis de estresse, dependência ou reações extremas durante a interação. Caso se detectem comportamentos problemáticos — como apego excessivo ou emoções intensas —, as plataformas deverão adotar medidas para reduzir riscos psicológicos, evitando que serviços de IA explorem vulnerabilidades emocionais ou incentivem padrões de uso prejudiciais.
As regras definem limites claros sobre o tipo de conteúdo que esses sistemas podem gerar: ficam proibidas respostas ou interações que ameacem a segurança nacional, disseminem informações falsas, estimulem a violência ou promovam conteúdos considerados obscenos.
O projeto está em consulta pública e sinaliza a intenção do governo chinês de consolidar um modelo de governança mais rígido para inteligências artificiais com características humanas, buscando equilibrar inovação tecnológica com controle estatal e proteção dos usuários. O movimento ocorre em um momento de expansão acelerada tanto do setor de IA quanto do de robôs humanoides na China.
