Uso inadequado de inteligência artificial leva a punição de promotora nos Estados Unidos
Uma promotora de justiça do estado da Geórgia foi punida após utilizar ferramentas de inteligência artificial que geraram informações falsas em um processo de assassinato. O incidente ocorreu quando a profissional utilizou modelos de linguagem de grande porte, que são sistemas treinados com volumes massivos de dados para prever e gerar textos, para redigir documentos judiciais. A ferramenta acabou criando citações inexistentes e referências a casos jurídicos que nunca aconteceram.
O erro foi identificado quando a defesa e o juiz perceberam que as fundamentações apresentadas no documento não possuíam base real no sistema jurídico. Esse fenômeno é conhecido tecnicamente como alucinação, que acontece quando a inteligência artificial gera respostas que parecem convincentes e gramaticalmente corretas, mas que são factualmente incorretas ou totalmente inventadas pelo sistema.
A promotora utilizou a ferramenta para agilizar a redação de peças processuais, mas falhou ao não revisar a veracidade das informações geradas automaticamente. A tecnologia de processamento de linguagem natural, que permite às máquinas compreender e produzir textos humanos, opera através de probabilidades estatísticas e não através de uma compreensão real de fatos ou leis.
Diante da gravidade do erro em um caso de crime hediondo, a justiça determinou a punição da promotora por conduta inadequada. O episódio levanta discussões profundas sobre a ética e a responsabilidade profissional ao integrar automações no sistema judiciário. A dependência excessiva de ferramentas automatizadas sem a devida supervisão humana pode comprometer a integridade de processos legais.
O mercado de inteligência artificial tem expandido a oferta de assistentes jurídicos que prometem aumentar a produtividade de advogados e promotores. Essas ferramentas geralmente utilizam a geração de texto para resumir processos ou sugerir argumentos, porém, a natureza probabilística desses sistemas torna a revisão manual indispensável para evitar a inserção de dados falsos em tribunais.
A falha cometida na Geórgia reflete um problema crescente em jurisdições ao redor do mundo, onde a pressa em adotar novas tecnologias ignora as limitações técnicas dos modelos. A falta de filtragem de dados e a ausência de verificação de fontes externas fazem com que a máquina tente preencher lacunas de informação com conteúdos plausíveis, porém fictícios.
O caso evidencia que a inteligência artificial, embora eficiente para organizar ideias ou estruturar rascunhos, não substitui a capacidade analítica e a responsabilidade ética do operador do direito. A punição aplicada serve como um alerta para que profissionais do setor jurídico mantenham o controle rigoroso sobre a procedência de cada citação e jurisprudência apresentada.
A justiça agora avalia como a inclusão de dados falsos impactou o andamento do processo de assassinato e se houve prejuízo ao amplo direito de defesa. O desdobramento do caso deve levar a discussões sobre a criação de normas mais rígidas para o uso de softwares de automação em tribunais, visando garantir que a tecnologia auxilie sem distorcer a realidade dos fatos.
As autoridades judiciais reforçaram que a responsabilidade final por qualquer documento protocolado em juízo é inteiramente do profissional que assina a peça. O uso de inteligência artificial não exime o autor de erros cometidos pelo sistema, especialmente quando tais erros envolvem a fabricação de evidências ou precedentes legais inexistentes.
O episódio encerra-se com a sanção da promotora e a necessidade de retificar as informações apresentadas no processo. A situação serve de exemplo sobre os riscos da automação irrestrita em áreas sensíveis, onde a precisão factual é o único critério aceitável para a aplicação da lei e a manutenção da justiça.
