Um homem foi preso no Espírito Santo após usar o ChatGPT como ferramenta auxiliar no planejamento da morte do próprio filho de 8 anos. O caso ganhou proporção internacional porque a denúncia partiu da própria OpenAI, empresa responsável pelo assistente de inteligência artificial, que identificou as conversas suspeitas e acionou autoridades nos Estados Unidos, que, por sua vez, repassaram as informações à Polícia Civil brasileira. O Laboratório de Operações Cibernéticas do Ministério da Justiça informou que este é apenas o terceiro caso do tipo registrado no Brasil.
A prisão ocorreu em 19 de junho, um dia antes da data escolhida pelo suspeito para cometer o crime. Segundo as mensagens recuperadas, o homem planejava matar o filho para não precisar pagar pensão alimentícia à ex-companheira. Ele utilizava o ChatGPT como uma espécie de diário, registrando detalhes do plano, incluindo a pretensão de portar arma, corda e veneno, além de realizar atentados em espaços públicos.
Nas conversas com a ferramenta de inteligência artificial, o homem relatou ainda que tentou contratar um pistoleiro por R$ 50 mil para matar a criança. A proposta teria sido recusada quando o assassino de aluguel soube que a vítima era uma criança. Em uma das mensagens, o suspeito escreveu que gostaria de entender a origem de sua vontade de matar pessoas e afirmou sentir prazer em ver o sofrimento alheio.
A OpenAI explicou, em comunicado, que adota medidas de notificação quando identifica riscos concretos. "Quando identificamos conversas que indicam um risco iminente e crível de dano a outras pessoas, podemos notificar as autoridades competentes", afirmou a empresa. Foi exatamente esse protocolo que levou a denúncia ao FBI, agência federal de investigação dos Estados Unidos, equivalente à Polícia Federal brasileira.
O FBI encaminhou então a denúncia ao Ministério da Justiça e Segurança Pública do Brasil, que direcionou o material à Polícia Civil do Espírito Santo. A investigação ficou a cargo da Delegacia Especializada de Repressão aos Crimes Cibernéticos do estado, que conduziu a prisão por meio de mandados judiciais.
O delegado Ícaro Olímpio, responsável pelo caso, informou que o homem negou a acusação durante o interrogatório. A detenção, no entanto, foi sustentada pelo histórico detalhado das conversas com o ChatGPT, fornecido pela OpenAI como evidência. As mensagens continham descrições específicas de métodos, datas e intenções, o que permitiu à polícia agir preventivamente.
O caso evidencia o funcionamento dos sistemas de monitoramento adotados por plataformas de inteligência artificial generativa. Segundo Álvaro Machado Dias, professor da Universidade Federal de São Paulo, assistentes como o ChatGPT monitoram integralmente as conversas dos usuários, ainda que a maior parte dessa revisão seja realizada por sistemas automatizados. No caso do pai do Espírito Santo, a fronteira foi cruzada porque havia vítima identificada, método, meios e data próxima, afirmou o pesquisador. Ou seja, o alerta disparado foi de máxima severidade.
A OpenAI detalhou que sua análise começa por sistemas automatizados, que incluem modelos de inteligência artificial capazes de categorizar conteúdos e realizar avaliações complexas sobre o contexto de cada conversa. Esse processo também utiliza bancos de dados que reúnem materiais previamente sinalizados, como ocorre em casos de exploração sexual infantil, além de listas de termos proibidos nas interações.
Quando uma conversa é sinalizada por esses mecanismos automatizados, ela é encaminhada para análise por moderadores humanos. Esses profissionais avaliam a atividade para determinar se houve violação das políticas de uso e se o usuário realmente apresenta potencial para cometer atos de violência. A partir dessa análise, os moderadores podem classificar a atividade como baixo risco ou tomar medidas mais severas, como a desativação da conta e o contato com organismos capazes de intervir na situação.
Foi esse fluxo de detecção e encaminhamento que funcionou no episódio do Espírito Santo. A combinação entre sistemas automatizados e revisão humana permitiu que a OpenAI identificasse o nível de ameaça, comunicasse o FBI e, em cadeia, as autoridades brasileiras fossem acionadas a tempo de prevenir o crime.
O caso reacende o debate sobre os limites éticos e de segurança no uso de ferramentas de inteligência artificial generativa. Embora plataformas como o ChatGPT sejam projetadas com políticas de uso que proíbem conteúdos relacionados a violência, automutilação e atividades criminosas, a capacidade de detecção e prevenção depende da eficácia dos sistemas de monitoramento e da velocidade de resposta das empresas.
Para especialistas, o episódio demonstra que os sistemas de moderação automatizados podem cumprir um papel relevante na prevenção de crimes, mas também levanta questões sobre privacidade e vigilância. O equilíbrio entre a proteção de potenciais vítimas e a preservação da confidencialidade das conversas dos usuários permanece como um dos desafios centrais para as empresas de tecnologia que desenvolvem assistentes baseados em inteligência artificial.
O fato de este ser apenas o terceiro caso do tipo registrado no Brasil indica que a utilização de ferramentas de IA para fins criminosos ainda é um fenômeno emergente, mas que tende a exigir atenção crescente das autoridades e das empresas do setor. A rapidez com que a denúncia percorreu o caminho entre a OpenAI, o FBI e a Polícia Civil do Espírito Santo foi decisiva para evitar uma tragédia.
