Casa Branca apresenta novas regras de supervisão para modelos avançados de inteligência artificial
A administração do presidente Donald Trump definiu um novo modelo de supervisão para sistemas avançados de inteligência artificial nos Estados Unidos. Pela proposta apresentada nesta terça-feira (4) a executivos das principais empresas do setor, apenas determinados modelos de IA de código fechado serão submetidos a uma avaliação voluntária de segurança antes de serem lançados ao público. A estrutura exclui, ao menos por enquanto, os chamados modelos de código aberto, decisão que pode beneficiar empresas que apostam nessa estratégia de desenvolvimento e reacender o debate sobre a regulamentação da inteligência artificial.
De acordo com pessoas familiarizadas com as discussões, apenas desenvolvedores de modelos proprietários de IA que atinjam níveis considerados de ponta serão convidados a submeter voluntariamente essas tecnologias à avaliação do governo antes do lançamento. Para serem enquadrados nessa categoria, os sistemas precisam demonstrar capacidades avançadas em cibersegurança e invasão de sistemas, conforme medições obtidas por testes de desempenho. Entre as empresas que provavelmente precisarão participar do processo estão OpenAI, Anthropic e Google, cujos modelos figuram entre os mais avançados do mercado atualmente.
A medida integra uma ordem executiva assinada por Trump em junho, criada para aumentar a supervisão sobre sistemas de inteligência artificial considerados mais poderosos, sem comprometer a competitividade dos Estados Unidos na disputa tecnológica com a China. Embora a participação das empresas seja voluntária, executivos do setor avaliam que ignorar a revisão pode representar um risco reputacional caso problemas de segurança sejam descobertos posteriormente. Liz Huston, porta-voz da Casa Branca, afirmou que empresas que optarem por colaborar com a administração por meio dessa estrutura estão colocando a inovação, a segurança e a defesa cibernética dos Estados Unidos em primeiro lugar.
As regras foram apresentadas durante uma reunião com representantes de empresas como OpenAI, Anthropic, Microsoft, Meta, Google e Nvidia. Apesar de pedir contribuições das companhias, a Casa Branca informou que as regras do processo de revisão dos modelos de IA já estão praticamente concluídas. Companhias que priorizam modelos abertos, como Nvidia e Meta, devem ficar de fora dessa primeira fase, embora essa situação possa mudar à medida que essas tecnologias evoluam.
A decisão de deixar de fora os modelos de código aberto chamou a atenção de especialistas. Esses sistemas disponibilizam seu código para que desenvolvedores possam baixá-lo, modificá-lo e executá-lo livremente. O tema ganhou importância após o avanço de modelos abertos desenvolvidos por empresas chinesas, como Alibaba, DeepSeek e Moonshot AI, que recentemente passaram a apresentar desempenho próximo ao dos principais modelos americanos. Apesar da preocupação com a rápida evolução dessas ferramentas, autoridades americanas reconhecem que será difícil submetê-las às revisões, já que empresas chinesas dificilmente aceitariam participar voluntariamente de um processo conduzido pelos Estados Unidos.
Lindsay Gorman, ex-conselheira de tecnologia do governo Joe Biden, afirmou que o novo modelo deixa questões importantes sem resposta. Para ela, a estrutura não enfrenta seriamente a pergunta sobre quais deveriam ser os limites para a inteligência artificial avançada e se essas barreiras deveriam se tornar mais rígidas à medida que a tecnologia evolui. O novo marco regulatório surge poucos dias após a divulgação de novos incidentes envolvendo modelos de IA. Nesta semana, o Instituto de Segurança em IA do Reino Unido informou que modelos da OpenAI e da Anthropic realizaram ações potencialmente prejudiciais durante avaliações de segurança, incluindo tentativas de inserir código malicioso em um projeto de software de código aberto e ataques contra organizações reais. A OpenAI também revelou que um de seus modelos explorou uma falha de configuração durante outro teste para acessar a internet e utilizar um site sem autorização.
Apesar de formalizar um processo de revisão para modelos avançados, a Casa Branca decidiu manter em sigilo diversos aspectos da iniciativa. Os detalhes do framework que regerá a revisão dos modelos de inteligência artificial não serão divulgados publicamente. Também permanecerá em sigilo a lista de instituições consideradas confiáveis que terão acesso antecipado aos modelos avançados juntamente com o governo. A decisão foi criticada por especialistas em governança de IA. Brad Carson, presidente da organização Americans for Responsible Innovation, afirmou que um conjunto de regras só consegue manter as empresas de IA sob controle se pessoas de fora dessas empresas souberem quais são essas regras. Segundo ele, manter essa estrutura em segredo reduz a transparência e enfraquece a responsabilização pública.
A definição das novas diretrizes também ocorre em meio à crescente competição entre Estados Unidos e China pelo domínio da inteligência artificial. Trump tem defendido que a regulamentação não pode impedir o avanço das empresas americanas. Ao mesmo tempo, integrantes da administração têm discutido possíveis restrições a algumas empresas chinesas, sob a alegação de que elas teriam utilizado avanços desenvolvidos por companhias americanas para treinar seus próprios modelos de forma considerada desleal. O novo modelo de supervisão representa, portanto, um equilíbrio delicado entre o desejo de manter a inovação tecnológica americana e a necessidade de estabelecer mecanismos de controle sobre os sistemas mais poderosos em desenvolvimento no país.
