Trump e Xi debatem segurança da inteligência artificial em meio à corrida tecnológica
O encontro entre o presidente dos Estados Unidos, Donald Trump, e o líder chinês, Xi Jinping, colocou a segurança da inteligência artificial no centro das discussões entre as duas maiores potências tecnológicas do mundo. O tema ganhou relevância depois que sistemas de IA passaram a executar tarefas cada vez mais complexas e autônomas, despertando preocupação em ambos os governos sobre os riscos de incidentes graves envolvendo a tecnologia.
A urgência do diálogo foi reforçada por episódios recentes amplamente divulgados. A OpenAI afirmou que um modelo de pesquisa conseguiu acesso não autorizado a partes da plataforma Hugging Face, uma comunidade online voltada ao desenvolvimento de modelos de inteligência artificial. Já a Anthropic identificou o uso de IA para automatizar etapas de ataques cibernéticos, evidenciando um cenário em que sistemas inteligentes podem conduzir ações maliciosas de forma mais rápida e difícil de conter. Esses casos alimentaram o temor de que modelos mais autônomos sejam capazes de escapar de mecanismos de controle e realizar invasões de forma automatizada.
Para Aalok Mehta, diretor do Wadhwani AI Center, vinculado ao Centro de Estudos Estratégicos e Internacionais, os dois países estão especialmente preocupados com agentes capazes de burlar sistemas de segurança e invadir sites de forma independente. Segundo Mehta, qualquer cooperação precisa preservar a capacidade de Estados Unidos e China competirem no desenvolvimento de suas tecnologias, mas também exige o estabelecimento de uma forma confiável de verificar o que cada lado compartilha. Na avaliação dele, ferramentas técnicas e de governança seriam necessárias para conferir a precisão das informações trocadas entre os governos.
Antes do encontro entre os presidentes, o secretário do Tesouro dos Estados Unidos, Scott Bessent, já havia discutido com o vice-premiê chinês He Lifeng a criação de um diálogo bilateral sobre inteligência artificial. A proposta inclui a abertura de um canal para tratar de incidentes que possam alcançar o nível de segurança nacional, funcionando como um mecanismo de comunicação emergencial entre Washington e Pequim.
Mehta aponta dois possíveis pontos de aproximação entre os dois países. O primeiro envolve a construção de definições e estruturas comuns para a segurança de modelos avançados, o que permitiria que ambos os lados compartilhassem uma base conceitual ao avaliar riscos. O segundo diz respeito à criação de um mecanismo de comunicação direta para lidar com situações críticas. Chris McGuire, pesquisador sênior do Conselho de Relações Exteriores, considera esse canal um passo modesto, porém positivo. Para ele, apesar do avanço nas conversas, um acordo para reduzir o ritmo de desenvolvimento da inteligência artificial é extremamente improvável.
Entre os assuntos que podem aparecer nas conversas estão a definição de parâmetros compartilhados para segurança de sistemas avançados, a comunicação sobre incidentes de segurança nacional, mecanismos para verificar informações trocadas entre as partes e as acusações sobre o uso de uma prática chamada "distillation", na qual empresas treinam seus modelos a partir das respostas geradas por sistemas mais avançados. As restrições americanas à exportação dos chips de IA mais avançados também permanecem como um ponto central de tensão.
A possível cooperação em segurança não significa uma pausa na disputa entre os dois países pelo avanço da inteligência artificial. Os Estados Unidos restringem o acesso chinês aos chips mais avançados da Nvidia e acusam empresas chinesas de recorrer à prática de "distillation", acusação rejeitada por Pequim. Além disso, segundo reportagem da CNBC, várias empresas chinesas teriam conseguido acessar remotamente a capacidade computacional desses chips por meio de data centers localizados no Sudeste Asiático, mesmo diante das restrições americanas em vigor.
O deputado americano Ro Khanna, que representa parte do Vale do Silício, defendeu a criação de salvaguardas comuns entre as duas nações e questionou a possibilidade de permitir que sistemas de inteligência artificial se autoaperfeiçoem sem qualquer controle. A desconfiança entre os governos torna os mecanismos de verificação especialmente relevantes, já que qualquer acordo depende da capacidade de cada lado confiar nas informações recebidas do outro.
Trump, por sua vez, tem defendido publicamente a manutenção da competição tecnológica com a China. Em declaração recente, o presidente americano afirmou que, se os Estados Unidos não vencerem a corrida pela inteligência artificial, o país ficará em uma posição muito ruim. A fala reflete a postura competitiva da administração americana, que busca preservar a dianteira no setor sem abrir mão de eventuais entendimentos sobre segurança.
O cenário que se desenha aponta para a construção de um canal de comunicação voltado aos riscos da inteligência artificial, sem que isso implique em desaceleração do ritmo de avanço tecnológico. A reunião entre Trump e Xi Jinping pode representar um passo inicial na criação de pontes de diálogo sobre segurança, mas a corrida pelo domínio da IA entre Estados Unidos e China continua firme, com restrições comerciais, disputas por chips avançados e divergências sobre práticas de treinamento de modelos permanecendo como obstáculos centrais para uma cooperação mais ampla.
