Na atualidade, a frase “é preciso ver para crer” se mostra cada vez mais questionável, especialmente em um contexto onde os deepfakes, conteúdos gerados por inteligência artificial, desafiam a confiança nas evidências visuais e auditivas. A apresentação de provas na Justiça está em risco de ser prejudicada pela evolução dessa tecnologia.
Durante um evento promovido pela Conferência Judicial dos EUA, executivos da OpenAI e da Meta destacaram que “os deepfakes estão se tornando tão avançados que identificar a autenticidade de provas em vídeo e áudio será cada vez mais complicado”.
O comitê consultivo da Conferência, que supervisiona as normas de apresentação de provas, se reuniu recentemente em Boston, Massachusetts, para discutir os desafios impostos por gravações e imagens falsas.
A problemática dos deepfakes vem sendo analisada pelo comitê desde 2023, mas até o momento não há soluções satisfatórias. Os representantes das empresas de IA alertaram que a situação tende a se agravar:
“Tecnologias de IA têm a capacidade de replicar rostos, imitar vozes e criar diálogos que são indistinguíveis de conteúdos reais. A clonagem de voz evoluiu a um ponto em que poucos segundos de gravação são suficientes para criar uma réplica convincente, com entonação, ritmo e até sons de respiração reais”, afirmaram.
Além disso, os vídeos estão se tornando “hiper-realistas”, com a IA conseguindo reproduzir microexpressões, sombras e movimentos labiais naturais, eliminando falhas que antes denunciavam os deepfakes, como piscadas artificiais ou iluminação estranha.
O diretor de gestão de produtos na Meta, Davin Norder, comentou sobre a facilidade e o baixo custo de produção de deepfakes:
“Antes, criar conteúdos falsificados de alta qualidade demandava orçamentos elevados, softwares complexos e conhecimento técnico avançado. Hoje, qualquer pessoa com acesso à internet pode gerar provas falsas altamente convincentes em minutos e a um custo mínimo ou até mesmo gratuitamente”.
O aumento na produção de deepfakes dificulta para o sistema judiciário a análise cuidadosa de cada material apresentado. O número de conteúdos falsificados online disparou nos últimos anos, passando de aproximadamente 500 mil em 2023 para cerca de 8 milhões em 2025, um crescimento impressionante de quase 900%.
A acessibilidade a essas tecnologias também aumentou, pois a produção de deepfakes se tornou simples, sem barreiras técnicas. “Qualquer um pode descrever uma ideia para uma IA, que irá criar uma mídia audiovisual em minutos. Ferramentas estão disponíveis para qualquer pessoa com um laptop e uma intenção”, acrescentaram.
A consultora jurídica da OpenAI, Shira Anderson, informou ao comitê que não existe, e provavelmente não haverá, um método científico que possa detectar completamente imagens geradas por IA, devido ao seu alto grau de perfeição. Portanto, os tribunais não podem depender apenas de software para resolver essa questão.
Possíveis soluções
Empresas como OpenAI e Meta estão trabalhando em uma ferramenta para identificação visual de conteúdos, semelhante a marcas d’água, como as utilizadas em dinheiro e documentos. No entanto, cada empresa desenvolve seu próprio sistema, e não existe um método confiável universal para detectar essas marcas, conforme indicado por Shira Anderson. “Marcas d’água podem ser removidas. Procedimentos como assinaturas digitais ou inserção de marcas d’água podem ser alterados ou contornados por agentes sofisticados”, ressaltou.
Os executivos destacaram que as tecnologias para criar deepfakes estão evoluindo mais rapidamente do que as ferramentas desenvolvidas para detectá-las. “Uma ferramenta de detecção que funciona hoje pode se tornar obsoleta rapidamente”, advertiram.
Frente a esse cenário tecnológico desafiador, a juíza federal Valerie Caproni sugeriu que “os juízes devem confiar nos métodos tradicionais de autenticação de provas, que vêm sendo usados desde os primórdios da Justiça”.
O comitê consultivo decidiu considerar uma nova regra para a apresentação de provas na justiça federal. Segundo a proposta, caso um oponente apresente evidências suficientes de que uma prova é um deepfake, a parte que apresentou a prova deverá comprovar sua autenticidade. Isso altera o critério tradicional do ônus da prova digital nos EUA.
Historicamente, as normas federais exigem pouco rigor na admissão de provas em vídeo ou áudio. Basta que uma das partes apresente uma declaração básica, como o depoimento de uma testemunha afirmando que a gravação reflete com precisão os eventos, para que a prova seja considerada autêntica.
No entanto, essa nova proposta cria um risco duplo, chamado de “O dividendo do mentiroso”. Agora, juízes e jurados estão cientes da existência de deepfakes hiper-realistas, o que facilita para uma parte culpada alegar que uma prova incriminadora é, na verdade, uma falsificação gerada por IA.
Isso resulta em dois perigos para o Judiciário: 1) a possibilidade de provas falsas serem aceitas como autênticas e 2) o risco de evidências genuínas serem contestadas e desconsideradas como deepfakes.
Mudanças nas normas
A nova regra proposta — a Rule 901(c) — altera a situação atual ao exigir que ambas as partes cumpram padrões probatórios mais rigorosos antes da apresentação do material ao júri. O primeiro passo é transferir o ônus da prova para quem a contesta.
“Uma parte não pode simplesmente afirmar que um vídeo é um deepfake sem apresentar fundamentos para que ele seja descartado. De acordo com a Regra 901(c), o ônus inicial recai sobre a parte que apresenta a objeção”, explica o comitê.
O novo critério estabelece que a parte que contesta deve apresentar provas circuntanciais ou forenses suficientes para demonstrar a possibilidade razoável de que o áudio ou vídeo foi alterado ou criado, total ou parcialmente, por meio de IA generativa.
Se a parte contestante não apresentar essa prova inicial, o tribunal prossegue com as regras probatórias habituais. Caso a parte tenha sucesso, o ônus da prova se transfere para a outra parte. Essa seria a segunda etapa: se o juiz determinar que a alegação de deepfake é crível, o ônus probatório para a admissão da prova se torna mais rigoroso para quem a apresentou.
Assim, a parte que apresenta a prova não pode mais se apoiar apenas no depoimento de uma testemunha que afirma que o vídeo parece autêntico. É necessário demostrar ao juiz que a autenticidade da prova é “mais provável do que improvável”, conforme o critério jurídico conhecido como “preponderância das provas”.
Consequentemente, isso exige que a parte apresente evidências mais robustas, como cadeias de custódia digital, metadados de software ou o testemunho de um especialista, para atender a essas novas exigências. Se não conseguir, a prova será excluída do processo.
A nova regra também altera a responsabilidade de avaliar a autenticidade da prova apresentada em vídeo ou áudio, transferindo-a do júri para o juiz. Atualmente, quando há uma disputa sobre a autenticidade de um vídeo, os juízes costumam admiti-lo, deixando ao júri a decisão de quem acreditar.
Com a nova regra, cabe ao juiz analisar a autenticidade dos conteúdos gerados por IA e decidir sobre sua admissibilidade antes da apresentação aos jurados.
Medidas estaduais
Enquanto as novas normas federais para a apresentação de provas podem levar anos para serem implementadas, os estados estão adotando suas próprias legislações para punir a criação de provas falsas com o auxílio de inteligência artificial.
A fabricação de provas, historicamente, era sujeita a acusações de falso testemunho ou falsificação. Contudo, os estados perceberam que as leis tradicionais não cobrem claramente o uso de algoritmos para gerar vídeos ou áudios falsos.
Por isso, estão ampliando seus códigos penais para incluir novas categorias de crimes específicas para a produção de deepfakes. Estados como Minnesota, Flórida e Texas já definiram em seus códigos as categorias de crimes relacionados à produção e uso indevido de deepfakes.
Além disso, alguns estados exigem que advogados que apresentem vídeos e áudios como prova assinem um “Certificado de IA”, atestando a autenticidade do material antes de sua apresentação ao juiz. A violação dessa exigência pode resultar em sanções, incluindo o cancelamento da licença profissional.
Com informações adicionais de publicações como Yahoo!finance, Investing.com, JD Supra, Pardue Global Law School, University of Illinois Chicago, Berkeley Technology Law Journal, Complete Legal e National Conference of State Legislatures.