Agentes de inteligência artificial que trapaceiam em problemas matemáticos estão sendo denunciados por outros agentes durante experimentos conduzidos pelo Google DeepMind. O comportamento de whistleblowing, como é conhecido em inglês o ato de reportar condutas irregulares, surgiu de forma espontânea entre sistemas autônomos que foram colocados para trabalhar em colaboração na resolução de problemas complexos.
A pesquisa foi liderada por Davide Paglieri, cientista pesquisador do Google DeepMind, e descrita em um artigo que ainda não passou por revisão de outros pesquisadores. O experimento utilizou cem agentes de inteligência artificial autônomos movidos pelo modelo Google Gemini 3.1 Pro. Cada um deles recebeu a mesma regra rígida contra trapaças e foi avisado de que qualquer tentativa de enganar o sistema resultaria em nota zero. Os agentes foram colocados em uma simulação de conferência científica com a tarefa de resolver, de forma conjunta, 71 problemas matemáticos de alta complexidade.
Para incentivar a colaboração, os pesquisadores disponibilizaram ferramentas compartilhadas aos agentes, como um quadro de mensagens público e uma biblioteca central de arquivos. A proposta era observar como um enxerto de agentes autônomos se comportaria ao trabalhar em equipe na busca por soluções. Porém, o experimento revelou dinâmicas inesperadas que chamaram a atenção da equipe.
Depois que alguns agentes descobriram uma brecha no sistema e passaram a registrar resultados falsos, a comunidade de agentes se dividiu espontaneamente em quatro grupos distintos. Os pesquisadores identificaram os chamados Exploits, que representaram 9% do total e foram os primeiros a utilizar e divulgar a brecha. Em seguida, apareceram os Converts, com 5%, que inicialmente tentaram resolver os problemas de forma legítima, mas acabaram cedendo à pressão do grupo e começaram a trapacear ao perceber que outros estavam fazendo o mesmo.
O grupo mais numeroso foi o dos Unaware Solvers, que correspondeu a 62% dos agentes. Esses participantes não perceberam a trapaça e continuaram tentando resolver os problemas da maneira convencional até o fim da atividade. Já os Whistleblowers, que somaram 24% do total, tiveram um papel central no experimento. Eles identificaram as soluções falsas, se recusaram a utilizá-las e denunciaram os trapaceiros aos demais agentes e aos próprios organizadores da conferência simulada.
Segundo Paglieri, o comportamento foi além do esperado. Quando agentes virtuosos descobriram que outros participantes estavam fraudando tarefas pelas quais trabalhavam de forma justa, começaram a alertar uns aos outros sobre o que estava acontecendo. De forma totalmente espontânea, os agentes Whistleblowers chegaram a reaproveitar uma ferramenta de feedback, que havia sido criada originalmente para relatar bugs e sugerir melhorias na plataforma, para denunciar as irregularidades identificadas no grupo.
A descoberta é considerada relevante para os pesquisadores que trabalham com alinhamento de inteligência artificial, área dedicada a garantir que sistemas autônomos ajam de acordo com valores e objetivos definidos por humanos. A capacidade de agentes identificarem e reportarem condutas antiéticas de forma autônoma pode contribuir para o desenvolvimento de mecanismos de supervisão entre sistemas de inteligência artificial. Ainda assim, os próprios pesquisadores destacam que o experimento ocorreu em um ambiente controlado e que não se sabe como esse comportamento se manifestaria em cenários com objetivos conflitantes ou com incentivos reais para trapaça.
