OpenAI passará a incluir marca d'água invisível em textos do ChatGPT na Europa
A OpenAI anunciou nesta segunda-feira (5) que começará a incorporar uma marca d'água invisível aos textos gerados pelo ChatGPT e pelo Codex na União Europeia. A implantação ocorrerá nas próximas semanas para usuários elegíveis de todos os planos e faz parte do esforço da empresa para se adequar às regras de transparência do AI Act europeu, a legislação que regula a inteligência artificial no bloco e exige que conteúdos produzidos por sistemas desse tipo possam ser identificados por outras ferramentas.
Para os desenvolvedores que utilizam a API da OpenAI, o serviço que permite integrar os modelos a aplicações externas, a marca d'água já está disponível globalmente desde esta segunda-feira para determinados modelos, mas permanece desativada por padrão. A empresa deixou claro que não pretende transformar o recurso em um padrão mundial neste primeiro momento, limitando a adoção automática ao território europeu enquanto avalia os resultados da tecnologia.
Apesar do nome, a marca d'água não se apresenta como um símbolo, carimbo ou qualquer elemento visível no texto. Batizada de textGrain, a tecnologia altera de maneira sutil as escolhas de palavras feitas pelo modelo ao longo da escrita, criando um padrão estatístico que pode ser identificado por uma ferramenta específica de detecção. Como o sinal fica incorporado à própria estrutura do texto, ele acompanha o conteúdo mesmo quando o material é copiado e colado em outros lugares.
Segundo a OpenAI, a marca d'água não identifica o usuário que gerou o conteúdo e os testes realizados pela empresa não apontaram mudanças significativas no desempenho dos modelos quando o recurso está ativo. A companhia também publicou um relatório técnico explicando o funcionamento do sistema, disponível no site oficial da OpenAI. O método utiliza uma chave secreta para organizar as previsões de próximas palavras do modelo, e a repetição dessas alterações permite que um detector procure o padrão e avalie se o texto contém uma marca da empresa.
A própria OpenAI reconhece, contudo, que a tecnologia tem limitações importantes. Em um dos testes realizados, a substituição de apenas 10% das palavras por sinônimos fez a taxa de detecção cair de aproximadamente 92% para 66%. Textos curtos, respostas de matemática e conteúdos traduzidos também foram apontados como mais difíceis de identificar, enquanto a precisão da detecção melhora conforme aumenta a quantidade de texto analisado.
Outro ponto destacado pela empresa é que a ausência de marca d'água não comprova que um texto foi escrito por uma pessoa. O material pode ser curto demais, ter passado por muitas alterações ou ter sido produzido por uma ferramenta de inteligência artificial de outra companhia. Da mesma forma, a presença do sinal não permite determinar quanto de participação humana houve na produção do conteúdo: a detecção pode indicar que um sistema da OpenAI gerou ou processou parte de um texto, mas não revela quanto de julgamento, edição ou criatividade humana foi empregado.
O acesso inicial ao detector será restrito a pesquisadores aprovados e organizações especializadas, decisão que considera os riscos de falsos positivos e falsos negativos nos resultados. O objetivo, segundo a empresa, é avaliar a confiabilidade da tecnologia e seus usos responsáveis. A ferramenta informará apenas se identificou uma marca da OpenAI, sem revelar o usuário, os comandos utilizados ou as conversas relacionadas ao conteúdo. A OpenAI pretende revisar sua abordagem conforme a tecnologia e os padrões evoluírem e planeja disponibilizar o sistema em código aberto para que outras organizações possam desenvolver soluções baseadas nele.
A empresa reforça, por fim, que a marca d'água tem uma função limitada. Ela não determina quem é o proprietário do texto, se o uso do conteúdo é legal ou quem deve ser responsabilizado por ele, tampouco verifica se uma informação é verdadeira, enganosa, prejudicial ou apresentada no contexto correto. Para a OpenAI, essas limitações precisam ser consideradas na interpretação dos resultados de detecção, que devem ser vistos como um sinal parcial sobre a origem do material, e não como uma prova definitiva de autoria ou responsabilidade.
