Inteligência artificial generativa amplia a escala de fraudes audiovisuais e coloca o direito brasileiro diante de um desafio sem precedentes
A evolução acelerada da inteligência artificial generativa tem provocado transformações profundas na produção de conteúdo digital. Ao mesmo tempo em que abre novas possibilidades criativas, a tecnologia também alimenta uma modalidade de fraude mais sofisticada e difícil de combater: os deepfakes, que são vídeos, áudios e imagens manipulados com alto grau de realismo, capazes de simular falas, expressões e comportamentos de pessoas reais. Diante desse cenário, cresce a pressão sobre o sistema jurídico para oferecer respostas à altura do problema.
A desinformação já era uma preocupação recorrente no ambiente digital, mas os deepfakes representam uma mudança qualitativa relevante. Ao deslocar o problema da esfera textual para a audiovisual, historicamente percebida como mais confiável, essa tecnologia fragiliza um dos principais pilares da prova contemporânea: a evidência visual. A consequência mais visível é uma erosão progressiva da confiança social, em que até conteúdos verdadeiros passam a ser questionados. Esse fenômeno é conhecido no debate jurídico como liar's dividend, expressão que descreve o benefício obtido por quem mente em um ambiente onde a autenticidade de qualquer registro pode ser colocada em dúvida.
No campo eleitoral, os riscos assumem dimensão crítica. Vídeos manipulados de candidatos, áudios falsificados e imagens adulteradas podem circular em larga escala em poucos minutos, influenciando percepções e decisões do eleitorado. A lógica algorítmica das plataformas digitais, orientada por engajamento, tende a amplificar conteúdos sensacionalistas, justamente aqueles mais propícios à manipulação. Em contextos de alta polarização, o impacto desses materiais se intensifica, pois reforça vieses e dificulta o contraditório.
Com foco nas Eleições Gerais de 2026, o Tribunal Superior Eleitoral aprovou alterações na resolução que trata da propaganda eleitoral para regulamentar o uso de inteligência artificial por partidos, candidatos e provedores de internet. Entre as principais medidas, está a proibição expressa de deepfakes, a exigência de rotulagem clara de conteúdos gerados por IA e a responsabilização de candidatos e plataformas, esta última condicionada à inércia ou ao descumprimento do dever de remoção de conteúdo ilícito. A norma prevê consequências severas: o uso de conteúdo para difundir fatos notoriamente inverídicos ou descontextualizados, com potencial de afetar a integridade do pleito, pode configurar abuso de meios de comunicação, ensejando cassação de registro ou mandato.
A regulamentação é considerada uma das mais abrangentes no plano comparado, ao menos no âmbito eleitoral, por reconhecer explicitamente o potencial disruptivo da IA na formação da vontade política. Ainda assim, persistem desafios estruturais. A própria Justiça Eleitoral enfrenta limitações técnicas para identificar deepfakes com rapidez e segurança, especialmente diante da constante evolução dos modelos generativos. Além disso, há limites constitucionais: o TSE pode regulamentar, mas não pode criar novos tipos penais, tarefa que depende do legislador.
Fora do contexto eleitoral, o ordenamento jurídico brasileiro oferece respostas fragmentadas. Na esfera civil, a utilização indevida da imagem, da voz ou da identidade pode ensejar reparação por danos morais, com fundamento nos direitos da personalidade. Na esfera penal, condutas envolvendo deepfakes podem ser enquadradas em crimes contra a honra, falsidade ideológica ou estelionato, a depender do caso concreto. Esses enquadramentos, porém, são indiretos e nem sempre capturam a especificidade da manipulação sintética. O problema se agrava diante da dificuldade de atribuição de autoria, já que a produção e a disseminação de deepfakes frequentemente envolvem cadeias complexas de agentes, muitas vezes anônimos e operando de diferentes países.
Outro ponto sensível diz respeito ao papel das plataformas digitais. O modelo do Marco Civil da Internet, baseado na necessidade de ordem judicial para remoção de conteúdo, foi concebido em um contexto anterior à inteligência artificial generativa. A decisão do Supremo Tribunal Federal que declarou a inconstitucionalidade parcial do artigo 19 sinaliza uma tendência de maior responsabilização e de atuação mais célere das plataformas, ao menos em períodos críticos.
Para além do direito, o enfrentamento dos deepfakes exige abordagem multidimensional. Do ponto de vista tecnológico, há uma corrida entre sistemas de geração e ferramentas de detecção, sem garantia de vitória definitiva de qualquer lado. Do ponto de vista social, a alfabetização midiática torna-se indispensável, já que usuários precisam desenvolver habilidades críticas para avaliar a autenticidade de conteúdos digitais.
O direito brasileiro, portanto, não está inerte, mas ainda opera em um regime de adaptação. Iniciativas como a regulamentação do TSE representam avanços importantes, especialmente ao reconhecer o problema e estabelecer parâmetros mínimos de responsabilização. A complexidade e a velocidade da fraude digital contemporânea, contudo, exigem respostas mais integradas, que combinem legislação específica, cooperação institucional e inovação tecnológica, sob pena de o sistema jurídico perder relevância diante de tecnologias que avançam em ritmo muito superior ao das leis.
