ChatGPT vai começar a carimbar textos feitos por IA com marca-d'água invisível no Brasil não por enquanto
A OpenAI anunciou nesta segunda-feira (5) o textGrain, uma tecnologia que passa a inserir uma marca-d'água invisível nos textos gerados pela inteligência artificial do ChatGPT. O recurso funciona alterando discretamente as escolhas de palavras do modelo, criando um padrão que só pode ser identificado por ferramentas específicas. A implementação está prevista para as próximas semanas e alcançará usuários do ChatGPT e do Codex na União Europeia.
A medida segue o caminho adotado recentemente pela Anthropic, empresa responsável pelo assistente Claude, que anunciou sua própria marca-d'água para textos em agosto. Nos dois casos, a mudança busca atender às regras de transparência do AI Act, a legislação europeia de inteligência artificial que exige que conteúdos produzidos por sistemas desse tipo possam ser identificados por máquinas.
Por enquanto, usuários do ChatGPT no Brasil não devem receber o carimbo automaticamente. A OpenAI afirmou que o lançamento ficará restrito à União Europeia em um primeiro momento, embora clientes da API, a interface que permite incorporar os modelos em outros produtos e serviços, já possam ativar a tecnologia voluntariamente em qualquer país, desde que utilizem modelos compatíveis.
O funcionamento do textGrain é diferente de qualquer etiqueta visível. A marca-d'água não adiciona caracteres invisíveis, espaços extras ou informações escondidas quando alguém copia e cola uma resposta. A tecnologia atua durante a própria geração do conteúdo: modelos de linguagem calculam diferentes possibilidades para a próxima palavra ou parte de palavra, unidade conhecida como token, e o sistema ajusta levemente essas probabilidades para que determinadas escolhas formem um padrão estatístico ao longo do texto.
Esse padrão pode ser procurado posteriormente por um detector desenvolvido pela própria OpenAI. Segundo a empresa, a ferramenta consegue indicar se um sistema da companhia provavelmente participou da geração ou da edição daquele conteúdo. A abordagem é semelhante à utilizada pela Anthropic no Claude, que adotou uma versão do SynthID-Text, tecnologia criada pelo Google DeepMind, a qual também modifica a aleatoriedade envolvida na escolha das palavras sem inserir elementos visíveis no material.
A OpenAI, porém, optou por desenvolver uma solução própria. Em seus testes internos, o textGrain igualou ou superou a capacidade de detecção de outras técnicas avaliadas, incluindo o SynthID aplicado a textos. A companhia também pretende disponibilizar a tecnologia como código aberto, o que permitiria que outras organizações examinem e utilizem o mecanismo.
Apesar do avanço, a presença do carimbo não permite afirmar com certeza que um texto inteiro foi escrito pelo ChatGPT. A tecnologia indica apenas que um modelo da OpenAI provavelmente participou da produção ou da edição do conteúdo, sem conseguir medir quanto do material veio de uma pessoa. Além dessa limitação conceitual, existem restrições técnicas de desempenho.
Nos testes divulgados pela empresa, considerando uma taxa de 1% de falsos positivos, o detector encontrou a marca em aproximadamente 80% dos textos de 200 tokens analisados em uma categoria de conteúdo. Em passagens de 400 tokens, a taxa de acerto chegou a cerca de 95%. O desempenho, no entanto, varia conforme o tipo e o idioma do texto avaliado.
Editar o conteúdo também pode reduzir significativamente as chances de identificação. Em um experimento com textos de 400 tokens, a substituição de 10% das palavras por sinônimos fez a taxa de detecção cair de aproximadamente 92% para 66%. Quando a troca alcançou 25% das palavras, a identificação despencou para apenas 17%.
Por causa dessas limitações e do risco de falsos positivos, a OpenAI decidiu não disponibilizar seu detector para qualquer pessoa inicialmente. O acesso será oferecido apenas a pesquisadores e organizações especializadas aprovadas pela companhia. A Anthropic adotou estratégia parecida, oferecendo sua ferramenta de detecção em prévia privada para grupos como cientistas, veículos de imprensa, verificadores de fatos e autoridades.
Há ainda uma diferença relevante entre as duas empresas na distribuição do recurso. A Anthropic decidiu implementar sua marca-d'água globalmente, porque afirmou não ter uma forma suficientemente confiável de limitar o funcionamento por região geográfica. A OpenAI, ao contrário, conseguiu delimitar o carimbo apenas ao território europeu na primeira etapa do lançamento.
Sobre privacidade, a OpenAI garantiu que a marca não revela quem utilizou o ChatGPT, qual foi a instrução enviada pelo usuário ou a conversa em que aquele conteúdo foi produzido. O sistema tampouco verifica se as informações presentes no texto são verdadeiras. Em resumo, o textGrain chega para cumprir exigências de transparência da legislação europeia, com detecção robusta em textos longos e pouco alterados, mas ainda sujeita a limitações diante de edições mais agressivas e sem qualquer compromisso com a veracidade do conteúdo marcado.
