Uma nova denúncia foi anexada ao processo que adolescentes do Tennessee movem contra a xAI, empresa de inteligência artificial fundada por Elon Musk. O relato, apresentado por uma mulher identificada nos autos como Jane Doe 4, alega que o gerador de imagens Grok foi usado pelo padrasto dela para manipular uma fotografia tirada quando ela tinha 11 anos. Segundo a ação, a ferramenta permitiu criar mais de 7 mil imagens de conteúdo sexual explícito a partir desse arquivo.
O Grok é o assistente de inteligência artificial da xAI e oferece, entre suas funcionalidades, recursos de geração e edição de imagens. A xAI foi criada por Musk, que também controla a plataforma social X e a empresa aeroespacial SpaceX. Ao reunir relatos de vítimas contra a mesma ferramenta, o caso do Tennessee coloca a companhia no centro do debate sobre a responsabilidade das desenvolvedoras de sistemas generativos pelo uso indevido de suas tecnologias.
A descoberta do material ocorreu durante uma operação de busca e apreensão conduzida pela polícia. As autoridades localizaram as imagens produzidas com o uso da ferramenta, o que permitiu reconstruir a origem do conteúdo e identificar a vítima retratada nos arquivos.
Dois dias após a localização do material, o suspeito foi encontrado morto em decorrência de suicídio. O desfecho encerrou a possibilidade de responsabilização penal direta do autor das manipulações, mas a denúncia permanece incorporada ao processo cível movido contra a empresa no Tennessee.
Em declaração anexada aos autos, a vítima alertou sobre os riscos criados pela facilidade de acesso a essas ferramentas no dia a dia. O alerta se soma a uma preocupação mais ampla presente no debate público sobre inteligência artificial: geradores de imagens acessíveis ao grande público podem ser usados para alterar fotografias de terceiros sem qualquer controle por parte das pessoas retratadas.
O argumento central da ação sustenta que a xAI falhou em implementar travas básicas de segurança capazes de impedir a manipulação de fotografias de pessoas reais, com atenção particular à proteção de menores de idade. Para os autores, a ausência desses mecanismos teria permitido a produção do material em larga escala.
Os autores pedem que o processo receba o status de ação coletiva. Esse formato reúne em um único processo pessoas com queixas semelhantes contra a mesma empresa, o que tende a ampliar o número de reclamantes e o alcance das decisões judiciais.
A identificação da nova denunciante como Jane Doe 4 indica que a ação já reúne outros relatos de vítimas. Cada denúncia descreve situações distintas de uso da ferramenta, mas converge para a mesma acusação de falha na proteção de imagens de pessoas reais.
A denúncia integra um conjunto mais amplo de críticas à circulação massiva de imagens geradas por inteligência artificial sem o consentimento dos envolvidos. Com a popularização de ferramentas de geração e edição visual, episódios de manipulação de fotos de terceiros ganharam espaço nas discussões sobre proteção de dados, imagem e intimidade.
Para as empresas que desenvolvem modelos generativos, processos desse tipo pressionam por mudanças no desenho dos produtos. Filtros de conteúdo, verificação de idade e mecanismos que dificultem a alteração de fotografias de terceiros aparecem com frequência nas propostas destinadas a tornar os geradores de imagens mais seguros.
O caso também chega em um momento de disputa regulatória em torno da inteligência artificial. Diferentes países discutem regras para sistemas generativos, com obrigações de transparência, proteção de menores e responsabilização das plataformas por danos causados por conteúdos criados a partir de seus modelos.
O deferimento do pedido de ação coletiva ainda depende de decisão da Justiça dos Estados Unidos. Independentemente do desfecho, o relato da Jane Doe 4 expõe as consequências diretas do uso de ferramentas de geração de imagens sem filtros adequados sobre a vida de pessoas reais.
A discussão sobre onde termina a responsabilidade de quem usa a tecnologia e onde começa a responsabilidade de quem a desenvolve segue em aberto nos tribunais. Para o público profissional de tecnologia, o processo do Tennessee funciona como um alerta sobre os riscos associados a sistemas generativos operados sem controles eficazes.
