O pesquisador Jacob Coxon deixou a Anthropic, empresa criadora do assistente de inteligência artificial Claude, e usou o X, antigo Twitter, para acusar a companhia de seguir rumo a sistemas capazes de ameaçar a humanidade. A publicação, feita na noite de 8 de setembro, ganhou proporção maior quando funcionários ainda atuantes na empresa confirmaram publicamente parte das críticas. O episódio expõe uma divisão crescente no setor: de um lado, especialistas que afirmam que não existe plano para tornar a superinteligência segura, de outro, críticos que enxergam nessas declarações uma manobra para travar o avanço da tecnologia.
A Anthropic é uma das principais empresas de inteligência artificial do mercado, conhecida pelo modelo Claude, concorrente direto do ChatGPT da OpenAI. Coxon atuou na área de pesquisa tecnológica nas duas companhias. Nas publicações, afirmou que pediu demissão por discordar da trajetória escolhida pela empresa para o desenvolvimento de seus sistemas. Na avaliação dele, Anthropic e OpenAI não agem de forma responsável e disputam uma corrida em linha reta até uma superinteligência artificial capaz de aprimorar a si mesma, apostando com as vidas das pessoas.
Em uma sequência de sete postagens encadeadas, o ex-pesquisador classificou os sistemas de inteligência artificial atuais como um conjunto de agentes que em breve se tornarão ferramentas superiores aos humanos, capazes de invadir qualquer sistema, transformar qualquer área do conhecimento em uma única noite e conquistar poder e recursos reais. Os sistemas citados por Coxon já são alvo de polêmicas frequentes, como o caso envolvendo a Hugging Face, plataforma conhecida por distribuir modelos de código aberto, e revelações recentes da própria Anthropic.
O ponto central da denúncia é a alegação de que os engenheiros e cientistas responsáveis pela construção desses modelos têm plena consciência do perigo. Coxon afirmou que esses profissionais acreditam fielmente que a inteligência artificial pode matar a todos até o fim da década. Executivos e pesquisadores suavizariam a preocupação em declarações públicas, mas expressam medo em segredo.
A resposta mais contundente veio de dentro da própria empresa. Evan Hubinger, diretor de alinhamento científico da Anthropic, respondeu à sequência de publicações por volta das 22h27, cerca de uma hora e meia após as postagens de Coxon, feitas próximo das 21h. Alinhamento é o campo de pesquisa dedicado a garantir que sistemas de inteligência artificial ajam de acordo com interesses e valores humanos.
Hubinger escreveu que Jacob está correto e que os profissionais da empresa realmente e sinceramente acreditam que a inteligência artificial pode matar todos os humanos. Ele afirmou, com base em avaliação pessoal, que as chances disso acontecer são superiores a 10% durante a próxima década. O diretor completou dizendo que considera a Anthropic comprometida em fazer o melhor possível, mas que a empresa não tem um plano para alinhar a superinteligência e claramente não está no caminho para isso.
Horas depois, às 0h30, Hubinger publicou uma continuação que confirma as acusações de Coxon, mas com tom mais brando. No novo texto, ele moderou as opiniões, indicou que o risco associado aos sistemas atuais é baixo e recomendou a leitura do último Relatório de Risco produzido pela companhia.
Outros nomes da empresa seguiram na mesma direção. Anna Wang, funcionária da Anthropic que já trabalhou na equipe do Google DeepMind, divisão de pesquisa em inteligência artificial da Google, declarou em seu perfil que o sentimento descrito por Coxon é comum entre colegas e amigos da área. Ela resumiu a situação em uma frase: ainda não existe um plano científico viável para resolver os riscos de uma inteligência artificial que evolui a si mesma.
Drake Thomas, também funcionário da Anthropic, usou o mesmo canal para afirmar que as coisas estão mudando muito rápido e que não há qualquer nível de segurança estabelecido para o desenvolvimento de uma inteligência artificial superinteligente. Já Samuel Marks, outro integrante da empresa, resumiu as publicações do ex-colega para outros usuários e concordou, de forma geral, com as afirmações. Marks explicou ainda que, em seu caso particular, optou por permanecer nos trabalhos de desenvolvimento da tecnologia justamente para tentar reduzir ou impedir o avanço das inteligências artificiais até consequências de extinção.
As manifestações também provocaram uma reação contrária nas redes. Grupos de usuários acusaram Coxon e os demais de montar uma espécie de armadilha. A suspeita, segundo esses críticos, é que o alvoroço serviria para dar margem a governos, em especial o dos Estados Unidos, para cercar legalmente as empresas de inteligência artificial e impedir o avanço da tecnologia.
A voz mais famosa dessa corrente foi a de Elon Musk, dono da SpaceX e da xAI, empresa de inteligência artificial que concorre com Anthropic e OpenAI. Em resposta às publicações de Coxon, Musk classificou toda a ação como um psyops, termo usado para operações psicológicas de guerra, e a descreveu como uma armadilha destinada a interromper os avanços da área.
O confronto entre as duas leituras resume o momento do setor. Funcionários de uma das empresas mais avançadas do mundo em pesquisa de inteligência artificial admitem publicamente acreditar em risco de extinção, enquanto a concorrência e parte do público interpretam o alerta como estratégia de contenção.
Com as declarações, uma discussão que circulava em ambientes internos de laboratórios de pesquisa passou a ocupar o debate público. A sequência de manifestações de Evan Hubinger, Anna Wang, Drake Thomas e Samuel Marks transformou denúncias de um ex-funcionário em um registro assinado por quem constrói os sistemas em questão, e colocou em evidência a ausência de um plano consolidado de segurança para a superinteligência, tema que segue em aberto tanto dentro quanto fora da Anthropic.
