Deepfakes já enganam até especialistas, alertam OpenAI e Meta à Justiça dos EUA

A OpenAI e a Meta alertaram um comitê judicial dos Estados Unidos que os vídeos e áudios falsos criados por inteligência artificial, os chamados deepfakes, estão ficando tão realistas que pode se tornar impossível provar, com segurança, se uma gravação é verdadeira ou fabricada. O aviso foi feito durante uma reunião em Boston de um grupo que, há três anos, discute como os tribunais devem lidar com provas digitais manipuladas por IA. Embora o caso tenha ocorrido no sistema judicial americano, o alerta serve como sinal de atenção para empresas brasileiras que lidam com contratos, provas em processos judiciais e proteção da própria imagem.

O que muda

Segundo os especialistas ouvidos pelo comitê, a tecnologia de geração de imagens e vídeos por IA evoluiu tão rápido que, hoje, nem pessoas nem programas de computador conseguem identificar com segurança o que é real. Uma representante da OpenAI afirmou que não acredita que exista, no futuro, uma forma científica confiável de detectar esse tipo de conteúdo falso. Já um executivo da Meta destacou que produzir esse material falsificado ficou rápido e barato, o que amplia o risco de uso indevido em larga escala.

Isso significa que documentos antes considerados prova forte, como uma gravação de áudio ou um vídeo, podem perder credibilidade automática. Para o seu negócio, isso é relevante sempre que você depende de registros audiovisuais para comprovar acordos, negociações, reuniões ou até incidentes internos: a autenticidade desse material pode passar a ser questionada com mais frequência.

Quem é afetado

O alerta foi dado a um comitê que trata de regras de provas usadas em tribunais americanos, mas o problema é global por natureza: a tecnologia usada para criar deepfakes não tem fronteira. Empresas que usam vídeos e áudios como parte de contratos, negociações comerciais, perícias ou processos trabalhistas podem ser impactadas caso esse tipo de prova comece a ser contestado também no Brasil. Outro ponto de atenção são situações de uso indevido da imagem de executivos, sócios ou da própria marca da empresa em vídeos falsos, prática que tende a crescer à medida que a tecnologia fica mais acessível.

Vale destacar que, segundo um levantamento citado pelos próprios responsáveis pelo painel, o problema ainda não é generalizado: de 931 juízes consultados nos Estados Unidos, apenas 15 relataram ter enfrentado um caso em que uma prova foi contestada por suspeita de ser deepfake. Ou seja, o risco é real e crescente, mas hoje ainda é pontual, não uma epidemia de fraudes nos tribunais.

As próprias empresas de tecnologia têm tentado reagir. OpenAI e Meta, entre outras, vêm desenvolvendo ferramentas para verificar se um conteúdo visual é autêntico, e leis recentes na Califórnia e na União Europeia já exigem algum tipo de "marca d'água" digital para identificar material gerado por IA. O problema, segundo a representante da OpenAI, é que cada empresa adota seu próprio sistema de marcação, e não existe hoje um método único e confiável que funcione para verificar todas essas marcas ao mesmo tempo.

Como se preparar

Mesmo sem uma solução definitiva à vista, já é possível adotar algumas precauções práticas no seu negócio. Reforce a forma como você registra e guarda provas importantes, prefira sempre que possível ter múltiplas fontes de confirmação de um fato (documentos escritos, testemunhas, registros de sistema) e não dependa de um único vídeo ou áudio como prova isolada em situações de risco jurídico. Fique atento também a sinais de uso indevido da imagem da sua empresa ou de seus sócios em vídeos ou áudios que pareçam estranhos, mesmo que realistas.

O tema ainda está em discussão nos Estados Unidos e não há uma solução pronta, nem mesmo as próprias empresas de IA apostam em uma detecção infalível no futuro. Mas o alerta serve como lembrete de que a confiabilidade de provas digitais está mudando, e isso deve entrar no radar de qualquer empresa que lida com contratos, disputas e reputação. Acompanhar esse debate, mesmo que à distância, ajuda a antecipar riscos antes que eles cheguem à sua realidade.