A Anthropic, empresa de inteligência artificial criadora do assistente Claude, publicou nesta quinta-feira um manifesto no qual solicita que os principais laboratórios de IA do mundo considerem uma pausa coordenada e verificável no desenvolvimento da tecnologia. O alerta tem como base a constatação de que a capacidade dos sistemas de IA de executar tarefas de forma autônoma vem dobrando aproximadamente a cada quatro meses, aproximando-se de um cenário no qual as máquinas poderiam se aprimorar sem intervenção humana — um fenômeno tecnicamente chamado de autoaperfeiçoamento recursivo.
O texto foi assinado pelo cofundador da Anthropic, Jack Clark, e pela líder do Anthropic Institute, Marina Favaro. Segundo eles, ainda que o autoaperfeiçoamento recursivo não seja inevitável, ele pode se concretizar antes de que a maioria das instituições esteja preparada para lidar com suas consequências. A publicação sustenta que uma pausa permitiria à sociedade absorver as implicações dessa transição tecnológica e criar mecanismos de governança adequados.
O contexto que motivou o alerta é o avanço acelerado de modelos generativos que, a cada geração, demonstram maior autonomia na execução de tarefas complexas. O próprio modelo Mythos, lançado pela Anthropic no início deste ano, provocou forte repercussão nos setores bancário e de software por sua capacidade de identificar vulnerabilidades em códigos existentes. O episódio ilustrou como sistemas avançados já são capazes de realizar operações com impacto direto sobre a segurança digital de organizações.
A regulamentação da IA, entretanto, tem avançado em ritmo mais lento que o da tecnologia. Nos Estados Unidos, onde estão sediados os maiores laboratórios do setor, o governo publicou uma ordem executiva nesta semana que transfere a responsabilidade de segurança para as próprias empresas. O texto pede que os laboratórios submetam voluntariamente seus modelos mais avançados a testes governamentais de cibersegurança antes de lançá-los ao público. Trata-se de uma abordagem que depende da boa vontade das empresas, sem caráter vinculativo.
A ideia de uma moratória no desenvolvimento de IA não é inédita. Em 2023, a organização sem fins lucrativos Future of Life Institute liderou uma campanha pedindo uma pausa de seis meses no treinamento de modelos mais poderosos que o GPT-4. Elon Musk, proprietário do laboratório xAI, foi um dos apoiadores da iniciativa. O apelo, porém, não obteve adesão significativa entre os grandes laboratórios, e o ritmo de lançamentos continuou acelerado.
Diferentemente da proposta de 2023, a Anthropic reconhece em sua publicação que uma desaceleração unilateral ou mal coordenada pode produzir o efeito oposto ao desejado. Se um único laboratório parar enquanto concorrentes menos cautelosos continuam avançando, a segurança geral do ecossistema pode diminuir em vez de aumentar. Por isso, a empresa defende que uma pausa significativa exige um acordo entre múltiplos laboratórios bem financiados que operam na fronteira tecnológica, além de regras claras sobre quais condições acionariam ou encerrariam a interrupção e quem seria o responsável pela supervisão.
Uma pausa por parte de um único laboratório, segundo o texto, é viável imediatamente, mas alcança muito menos: mudaria apenas quem está na liderança do desenvolvimento, sem criar o processo mais amplo de deliberação que atualmente está ausente. Para avançar nesse debate, o braço de pesquisa da empresa, o Anthropic Institute, planeja reunir nos próximos meses formuladores de políticas públicas, pesquisadores, organizações da sociedade civil e empresas rivais de IA para discutir a gestão de riscos como o autoaperfeiçoamento recursivo.
Até o momento, a proposta não encontrou eco entre os principais concorrentes. OpenAI, xAI, Alphabet, Meta Platforms e a francesa Mistral não responderam aos pedidos de comentário sobre a possibilidade de aderir ao apelo.
O posicionamento da Anthropic em favor de salvaguardas contrasta, em parte, com suas próprias decisões recentes. A empresa, que há muito se apresenta como um laboratório focado em segurança, recusou-se no início do ano a permitir que as Forças Armadas dos Estados Unidos utilizassem seus modelos para vigilância doméstica e sistemas de armas totalmente autônomos. A decisão provocou uma reação do governo americano, que incluiu a Anthropic em uma lista de restrições de segurança nacional com aplicação prevista para o fim de 2026. Segundo reportagem da Reuters publicada nesta sexta-feira, a disputa dá sinais de arrefecimento em setores do governo americano.
Em fevereiro, no entanto, a Anthropic recuou em um compromisso de segurança ao anunciar que não deixaria mais de lançar sistemas potencialmente perigosos caso concorrentes estivessem próximos de igualar suas capacidades. A mudança de postura foi interpretada como uma concessão à dinâmica competitiva do mercado. Paralelamente, a empresa continuou lançando modelos cada vez mais poderosos, incluindo o já mencionado Mythos.
No plano financeiro, a Anthropic está em fase de expansão acelerada. A empresa foi avaliada em US$ 965 bilhões em uma rodada de financiamento recente e protocolou confidencialmente, na segunda-feira, um pedido de oferta pública inicial de ações nos Estados Unidos. Com isso, a startup se coloca à frente da rival OpenAI tanto em valor de mercado quanto na corrida por recursos considerados essenciais para o treinamento de modelos de grande escala.
Essa dualidade — entre o discurso de segurança e a prática de lançamentos agressivos — é um dos pontos centrais do debate que a publicação reacende. A capacidade da IA de operar de forma cada vez mais autônoma avança em velocidade superior à das instituições responsáveis por regular e supervisionar o setor. Para profissionais de tecnologia, o alerta da Anthropic reforça a importância de acompanhar não apenas os avanços técnicos dos modelos, mas também as discussões sobre governança, ética e os limites do desenvolvimento automatizado.
O caminho até uma eventual pausa coordenada, se algum dia acontecer, passa por negociações entre laboratórios que hoje competem ferozmente por liderança tecnológica e bilhões em investimentos. Enquanto isso, a cada quatro meses, a capacidade autônoma dos sistemas de IA continua dobrando.
