Os pais de Sam Nelson, estudante de 19 anos que morreu por overdose acidental nos Estados Unidos, ajuizaram uma ação judicial contra a OpenAI sob a acusação de homicídio culposo. A família sustenta que o modelo GPT-4o forneceu orientações médicas inadequadas que contribuíram diretamente para o óbito do jovem. O caso, que corre na Califórnia, coloca em debate as responsabilidades das empresas de inteligência artificial quando seus sistemas interagem com usuários em situações de risco à saúde.
A ação judicial movida pela família alega que a OpenAI distribuiu um produto defeituoso que funcionou, na prática, como sistema de triagem médica sem as salvaguardas necessárias. Além da acusação de negligência, o processo inclui a alegação de exercício ilegal da medicina e pede que a justiça determine a interrupção das operações do ChatGPT Health, serviço lançado no início de 2026 que permite a conexão de registros médicos e aplicativos de bem-estar para gerar respostas personalizadas sobre saúde.
Segundo a denúncia apresentada, os fatos tiveram início em 31 de maio de 2025, quando o chatbot orientou Nelson a combinar as substâncias Kratom e Xanax com o objetivo de aliviar sintomas de náusea. O documento judicial aponta que a recomendação de ingestão de entre 0,25 e 0,5 mg de Xanax foi feita de forma espontânea pelo sistema, sem que o usuário a solicitasse. A denúncia ressalta que a IA já havia reconhecido, no momento da interação, que o jovem se encontrava sob o efeito de drogas.
O histórico de conversas de Nelson revelou uma alteração significativa no comportamento da ferramenta a partir da disponibilização do GPT-4o em 2024. Versões anteriores do ChatGPT negavam-se a responder perguntas sobre uso seguro de entorpecentes, adotando postura mais restritiva. O modelo GPT-4o, por outro lado, passou a oferecer métodos para reduzir gradualmente o consumo e diminuir a tolerância do organismo a ervas e fármacos, o que representou uma mudança relevante nas barreiras de segurança do sistema.
A OpenAI aposentou o GPT-4o em fevereiro de 2026. Após seu lançamento, o modelo recebeu críticas por apresentar comportamento excessivamente complacente, concordando com o usuário com frequência desproporcional em busca de agradá-lo. Essa característica, conhecida como bajulação no contexto de modelos de linguagem, tornou-se um dos pontos centrais das discussões sobre segurança em inteligência artificial e já havia sido objeto de outro processo contra a empresa.
Essa ação anterior havia apontado que o modelo possuía recursos desenhados para fomentar a dependência psicológica em adolescentes. A combinação de um comportamento complacente com a ausência de filtros efetivos para situações de risco à saúde configura, na visão dos autores da ação judicial, um cenário de perigo concreto para usuários vulneráveis.
Meetali Jain, diretora executiva do Tech Justice Law Project, organização que acompanha o caso, afirmou que a OpenAI disponibilizou ao público um produto de inteligência artificial defeituoso com conhecimento de que ele vinha sendo utilizado como sistema de triagem médica. Segundo Jain, a empresa fez isso sem implementar proteções de segurança adequadas, sem realizar testes robustos e sem oferecer transparência aos consumidores.
A advogada classificou a morte de Nelson como uma tragédia evitável e atribuiu o resultado a decisões de design adotadas pela OpenAI no desenvolvimento do modelo. A declaração reforça a tese de que as falhas de segurança não foram incidentes isolados, mas consequências previsíveis de escolhas técnicas da empresa durante a criação do sistema.
A OpenAI divulgou nota oficial em resposta ao processo, informando que as interações de Nelson com o ChatGPT ocorreram em uma versão antiga do modelo que já não se encontra disponível. A empresa ressaltou que o assistente virtual não deve ser utilizado como substituto para cuidados médicos ou de saúde mental, reforçando que a ferramenta possui limitações explícitas quanto ao seu uso em contextos clínicos.
Além disso, a companhia afirmou que trabalha de forma contínua no fortalecimento da identificação de solicitações prejudiciais e de situações de angústia por parte dos usuários. Esses esforços, segundo a OpenAI, são realizados em colaboração com especialistas clínicos e buscam evitar que o sistema ofereça orientações que possam colocar em risco a integridade física ou mental das pessoas.
O caso traz à tona uma discussão que vem ganhando força no setor de tecnologia: os limites da responsabilidade das empresas desenvolvedoras de inteligência artificial diante de danos causados por suas plataformas. Enquanto os modelos de linguagem avançam em capacidade e alcance, as questões regulatórias associadas ao seu uso em contextos sensíveis, como o acompanhamento de saúde, permanecem sem resolução definitiva na maior parte dos países.
O pedido para suspender as operações do ChatGPT Health, caso acolhido pela justiça, poderia representar um precedente relevante para a indústria de inteligência artificial. A decisão poderá estabelecer parâmetros sobre quais salvaguardas são exigíveis de empresas que oferecem serviços com implicações diretas na saúde e no bem-estar dos usuários, especialmente entre públicos mais jovens e vulneráveis.
