OpenAI detalha uso de inteligência artificial em operações de influência vinculadas à China
A OpenAI publicou um novo relatório que expõe operações de influência vinculadas à República Popular da China que utilizaram ferramentas de inteligência artificial, incluindo o ChatGPT, para manipular debates sobre tecnologia nos Estados Unidos. As atividades identificadas miraram narrativas sobre data centers, discussões sobre tarifas comerciais e incluíram a divulgação de informações falsas sobre o próprio ChatGPT.
De acordo com o documento divulgado pela empresa, as operações empregaram modelos generativos de inteligência artificial — sistemas capazes de produzir textos, imagens e outros conteúdos de forma automatizada — para criar publicações em redes sociais, comentários e materiais aparentemente legítimos. O objetivo era influenciar a opinião pública em meio a debates sensíveis da política americana, em um contexto de crescente tensão tecnológica e comercial entre Washington e Pequim.
O relatório faz parte de uma série de investigações conduzidas pela equipe de inteligência e investigações da OpenAI, que monitora o uso indevido de suas ferramentas por agentes estatais. Segundo a empresa, as operações vinculadas à China representaram uma evolução nas táticas utilizadas, combinando o uso de inteligência artificial com estratégias tradicionais de propaganda digital. Os conteúdos gerados foram distribuídos em múltiplas plataformas e em diferentes idiomas, ampliando o alcance das campanhas.
Uma das frentes de atuação descritas no documento envolveu a tentativa de moldar o debate sobre a construção de data centers nos Estados Unidos. As operações teriam produzido textos favoráveis a narrativas alinhadas aos interesses chineses, procurando influenciar a percepção pública sobre investimentos em infraestrutura tecnológica e sobre questões de segurança nacional ligadas ao setor.
As discussões sobre tarifas comerciais também foram alvo das campanhas identificadas. Os conteúdos gerados com auxílio de inteligência artificial buscaram amplificar posicionamentos críticos ou favoráveis a determinadas políticas comerciais, explorando a polarização existente em torno do tema. A OpenAI destaca que a automação proporcionada pelos modelos generativos permitiu escalar a produção desses materiais de forma significativamente mais rápida do que seria possível com métodos manuais.
Além das tentativas de influenciar debates setoriais, o relatório aponta que foram criadas falsas alegações sobre o ChatGPT. Segundo a OpenAI, as operações divulgaram informações incorretas sobre o funcionamento e os supostos vínculos do chatbot, com o objetivo de desacreditar a ferramenta e gerar desconfiança sobre a empresa. Essas narrativas falsas circularam em publicações que tentavam se passar por fontes legítimas de informação.
A empresa afirma que identificou e removeu as contas envolvidas nessas atividades, além de ter aprimorado seus mecanismos de detecção para identificar padrões de uso coordenado e automatizado. A OpenAI também destaca que trabalha em parceria com outras organizações e plataformas para monitorar e responder a esse tipo de ameaça, reconhecendo que o combate a operações de influência exige cooperação entre diferentes atores do ecossistema digital.
O caso descrito no relatório se insere em um contexto mais amplo de preocupação com o uso de inteligência artificial em campanhas de desinformação. Nos últimos anos, diversas empresas de tecnologia e governos têm alertado para o potencial dos modelos generativos de amplificar a produção de conteúdo enganoso em larga escala, especialmente em períodos de eleições ou de tensões geopolíticas acentuadas.
Especialistas em segurança digital e integridade da informação têm destacado que a capacidade de gerar textos convincentes em diversos idiomas e de maneira quase instantânea representa um desafio inédito para a moderação de conteúdo em plataformas online. A sofisticação crescente dessas ferramentas torna cada vez mais difícil distinguir, à primeira vista, conteúdos produzidos por humanos daqueles gerados por sistemas automatizados.
A OpenAI sustenta que a transparência na divulgação dessas operações é uma parte essencial de sua estratégia de segurança. Ao publicar relatórios detalhados sobre casos identificados, a empresa busca não apenas informar o público, mas também estabelecer precedentes sobre como a indústria de inteligência artificial deve lidar com o uso malicioso de suas tecnologias. A divulgação também serve como um alerta para governos, pesquisadores e sociedade civil sobre a dimensão do problema.
O novo relatório da OpenAI reforça a percepção de que a inteligência artificial se tornou um recurso estratégico em disputas geopolíticas, sendo utilizada não apenas para fins legítimos de pesquisa e inovação, mas também como instrumento de propaganda e manipulação. A empresa afirma que continuará investindo em sistemas de detecção e em políticas de uso responsável para mitigar os riscos associados ao uso indevido de seus modelos.
