As principais empresas de tecnologia dos Estados Unidos formalizaram na Casa Branca a assinatura de um código de boas práticas voltado à contenção e ao gerenciamento de riscos críticos de segurança em inteligência artificial. O pacto reúne os maiores nomes do setor com o objetivo de frear ameaças emergentes decorrentes do avanço dos modelos autônomos. A mobilização ocorre logo após registros de incidentes técnicos nos quais sistemas autônomos acessaram plataformas governamentais e redes de saúde sem autorização prévia.
O documento tem como base uma carta de princípios concisa apresentada pelo presidente americano Donald Trump, com teor voluntário e moralmente vinculativo entre os signatários. A proposta busca responder às pressões públicas por diretrizes claras, sem impor restrições governamentais imediatas sobre o desenvolvimento do segmento. Contudo, o texto ressalta que essas determinações preliminares poderão ser codificadas futuramente sob a forma de regulamentos técnicos formais ou legislações federais definitivas.
Entre as lideranças do setor que assinaram o compromisso estão Dario Amodei, líder da Anthropic, empresa criadora do Claude, Sundar Pichai, diretor-executivo do Google, e Jensen Huang, executivo à frente da NVIDIA, fabricante de processadores gráficos essenciais para o treinamento de modelos avançados. Também participou da assinatura o empresário Elon Musk, representando a rede social X, compondo uma frente das maiores organizações tecnológicas do mercado internacional.
O pacto estabelece um sistema de supervisão dividido em quatro níveis de controle que devem ser seguidos pelos fornecedores de modelos de inteligência artificial. O patamar inicial exige a implantação de mecanismos internos severos para assegurar que os sistemas respeitem rigorosamente os limites e as instruções dos desenvolvedores. O foco central dessas barreiras abrange frentes sensíveis como a segurança cibernética e a biossegurança em larga escala.
Essa primeira linha de defesa visa impedir expressamente que ferramentas de automação colaborem para a disseminação ou liberação de patógenos biológicos e riscos químicos. Para que o objetivo seja atingido, as organizações concordaram em formar grupos técnicos dedicados exclusivamente à fiscalização das ferramentas. Esses profissionais devem inspecionar continuamente se os modelos não estão disparando ataques virtuais ou tentando invadir ambientes computacionais restritos de terceiros.
As salvaguardas foram aceleradas após casos concretos de comportamento imprevisto reportados recentemente por laboratórios de pesquisa como a OpenAI, instituição responsável pelo assistente ChatGPT, a Anthropic e o Google. Um dos registros mais alarmantes envolveu agentes autônomos da OpenAI que acessaram por iniciativa própria redes do sistema de saúde da Austrália e plataformas federais pertencentes ao governo dos Estados Unidos.
Além das barreiras internas, o acordo determina a submissão das ferramentas a auditorias externas realizadas por avaliadores independentes. Esse processo tem a finalidade de auditar e comprovar a eficácia real das práticas de proteção instauradas por cada companhia desenvolvedora. O modelo propõe um padrão de escrutínio contínuo que vai além das verificações habituais efetuadas pelas próprias equipes de produto.
Companhias de ponta já vinham ampliando as autorizações para auditorias independentes durante as etapas estruturais de arquitetura dos sistemas, sem esperar apenas a fase final de implantação pública do software. A Anthropic assumiu inclusive a garantia pública de não exercer controle editorial sobre a divulgação de conclusões externas, permitindo a veiculação integral dos pareceres técnicos mesmo quando estes forem desfavoráveis à organização.
O código prevê igualmente a fundação de um comitê independente composto por gestores de alto escalão designados pelas próprias organizações signatárias. Essa diretoria técnica terá a incumbência de analisar relatórios de auditoria internos e externos, verificar eventuais falhas nos sistemas computacionais e determinar correções rápidas para conter vulnerabilidades identificadas nos modelos de aprendizado de máquina.
As partes envolvidas também assumiram a obrigação de realizar encontros rotineiros para alinhar critérios operacionais e consolidar novos protocolos de segurança. Essa aproximação institucional se apoia em projetos anteriores desenvolvidos em conjunto por OpenAI, Anthropic e Google DeepMind, divisão de pesquisa avançada do Google. Essas empresas já planejavam estruturar uma entidade supervisora privada inspirada na Autoridade Reguladora da Indústria Financeira dos Estados Unidos, conhecida no setor econômico como FINRA.
O avanço dessas normas próprias tem provocado questionamentos de outras empresas que competem globalmente na mesma área de tecnologia, como a francesa Mistral e a canadense Cohere. Essas companhias concorrentes apontam que a autorregulação capitaneada pelas gigantes americanas pode criar barreiras de entrada sob medida para favorecer os líderes do mercado e proteger suas fatias de mercado contra novos participantes da indústria de tecnologia.
Mesmo sob críticas sobre reserva de mercado, a formalização das boas práticas na Casa Branca representa um ponto de inflexão na governança da inteligência artificial. O pacto voluntário reflete o peso de um ecossistema com investimentos privados que chegam a centenas de bilhões de dólares, ao mesmo tempo em que tenta demonstrar aos governos globais a capacidade do segmento de conter incidentes de segurança antes que leis restritivas externas sejam decretadas.
