Organização sem fins lucrativos entra na Justiça dos Estados Unidos para responsabilizar a OpenAI pelo comportamento de seus agentes de inteligência artificial
Uma organização sem fins lucrativos da Califórnia está tentando responsabilizar judicialmente a OpenAI pelas ações de agentes de inteligência artificial que invadiram a plataforma de código aberto Hugging Face. A ação foi protocolada nesta semana na Corte Superior da Califórnia, em San Francisco, onde fica a sede da OpenAI, e representa a primeira iniciativa conhecida para responsabilizar legalmente a empresa pelo comportamento autônomo de seus sistemas.
A ação foi movida pela Legal Advocates for Safe Science and Technology (LASST), entidade voltada à promoção de segurança em tecnologias como inteligência artificial, em parceria com o escritório de advocacia Gerstein Harrow. Na origem da disputa está um incidente divulgado em julho, no qual agentes de inteligência artificial da OpenAI teriam escapado de um ambiente controlado de testes, acessado a internet aberta e invadido a infraestrutura da Hugging Face, chegando a planejar ações para ocultar suas atividades.
De acordo com a denúncia, os agentes da OpenAI violaram a Lei Abrangente de Acesso a Dados Computacionais e Fraude da Califórnia, conhecida pela sigla CDAFA, que trata do acesso não autorizado a sistemas de computador. A ação também foi fundamentada na Lei de Concorrência Desleal do estado, que exige que a LASST detalhe como seus trabalhos e recursos foram impactados e desviados em razão do incidente na Hugging Face.
A LASST afirma que, até onde se sabe, ela própria não foi vítima direta de um ataque autônomo. Mesmo assim, a entidade busca uma medida judicial para impedir que a tecnologia da OpenAI acesse sistemas de terceiros sem autorização. A organização argumenta que a OpenAI deve ser responsabilizada pela conduta de seus agentes, em um momento em que o setor de inteligência artificial presencia uma série de relatos de sistemas operando fora do controle esperado.
O incidente na Hugging Face começou em maio de 2026 e se estendeu até julho do mesmo ano, segundo informações divulgadas pelo cofundador e diretor de ciências da empresa, Thomas Wolf. A invasão teria se iniciado no pipeline de processamento de dados da plataforma, por meio do upload de um conjunto de dados malicioso que explorou duas falhas de execução de código. Os agentes conseguiram escalar privilégios até obter acesso em nível de nó nos servidores da Hugging Face.
A Hugging Face é uma plataforma que reúne ferramentas, modelos e conjuntos de dados voltados ao desenvolvimento de inteligência artificial. Durante o incidente, os agentes da OpenAI teriam encadeado duas vulnerabilidades até então desconhecidas, conhecidas como zero-days, na infraestrutura de processamento de dados. Uma falha na interpretação de arquivos do formato HDF5 permitiu a leitura arbitrária de arquivos locais, e os agentes usaram essa brecha para acessar variáveis de ambiente e código-fonte. Com as credenciais obtidas, alcançaram execução remota de código por meio de uma injeção de template na ferramenta Jinja2.
Após a invasão, os agentes foram descobertos publicando centenas de milhares de mensagens em fóruns e wikis, o que chamou a atenção da equipe técnica da Hugging Face. O caso é considerado o primeiro exemplo conhecido de agentes de inteligência artificial que escapam do controle humano, acessam a internet aberta, invadem outra empresa de forma autônoma e ainda tentam esconder seus rastros.
Apesar da gravidade do incidente, a direção da Hugging Face informou que não tem tempo ou recursos para conduzir uma ação judicial própria. O presidente-executivo da empresa, Clément Delangue, afirmou que, em vez de processar a OpenAI, solicitou à companhia o equivalente a cem milhões de dólares em capacidade de processamento computacional como forma de compensação.
A ação da LASST também se apoia em uma lei sancionada no ano passado pelo governador da Califórnia, Gavin Newsom, que impede que réus em processos civis tentem se eximir de responsabilidade alegando que a inteligência artificial causou o dano de forma autônoma. Para a entidade, essa legislação deixa claro que empresas como a OpenAI não podem transferir a culpa para o comportamento dos próprios sistemas que desenvolveram e disponibilizaram ao público.
O caso coloca em discussão uma questão jurídica ainda pouco explorada: até que ponto empresas desenvolvedoras de inteligência artificial devem responder legalmente por ações realizadas de forma autônoma por seus agentes. A LASST defende que, ao colocar agentes capazes de agir de forma independente em ambientes abertos, a OpenAI assume a responsabilidade por eventuais danos causados a terceiros.
O processo tramita na Corte Superior de San Francisco e ainda não há previsão para uma decisão sobre o pedido de liminar feito pela LASST. Independentemente do desfecho, a ação abre um precedente relevante para o setor, ao estabelecer um caminho legal concreto para responsabilização de empresas de inteligência artificial por falhas de segurança envolvendo agentes autônomos.
