O que São Deepfakes e Como se Proteger Deles

Em 2024, um funcionário da multinacional Arup, em Hong Kong, entrou numa videochamada com o diretor financeiro e outros colegas. Seguindo as ordens dadas na reunião, ele fez 15 transferências que somaram US$ 25 milhões. Só depois veio a descoberta: cada rosto na chamada era um deepfake, e ele havia sido o único humano presente (SCMP, 2024).

Não era ficção de cinema, foi uma reunião inteira de rostos sintéticos. A tecnologia ficou boa demais para o olho, e a maioria dos guias ainda ensina a “procurar o piscar errado”. Esse conselho está expirando. Você vai entender aqui o que é um deepfake, como a IA cria um e a defesa que realmente escala.

Este post é um spoke do nosso guia sobre o que é machine learning. Se você caiu de paraquedas, melhor começar por lá.

Resumo rápido: Um deepfake é uma mídia sintética, vídeo, imagem ou áudio, criada por IA para imitar o rosto ou a voz de alguém. A tecnologia ficou tão boa que humanos já distinguem deepfake de real perto do puro acaso (meta-análise de 56 estudos, 2024). Caçar o “piscar errado” virou defesa fraca. A que escala é outra: verificar de onde a mídia veio (padrões de procedência como o Content Credentials, que assinam a origem com criptografia) e, contra o golpe da voz clonada, confirmar por outro canal antes de fazer qualquer Pix. A IA falsifica a voz, mas não sabe a palavra-código que só a sua família combinou.

O que é um deepfake e como a IA cria um?

Um deepfake é uma mídia sintética, vídeo, imagem ou áudio, gerada por inteligência artificial para imitar o rosto, a voz ou o corpo de uma pessoa. É a IA generativa aplicada à identidade: a mesma família que cria texto e imagem, agora recriando você.

Como esse rosto falso nasce? Em alto nível, por dois caminhos técnicos. O primeiro são as GANs, sigla para redes generativas adversárias. São duas redes neurais numa queda de braço: um gerador cria o rosto falso, e um discriminador tenta desmascará-lo.

A cada rodada, o discriminador aponta o erro, e o gerador aprende com ele. A disputa se repete milhões de vezes, até o falso ficar bom o bastante para enganar o próprio juiz. Ninguém corrige à mão. A máquina treina para enganar sozinha.

O segundo caminho são os modelos de difusão. Eles partem de puro ruído, como uma tela chuviscada, e vão limpando aos poucos até formar a imagem pedida. É a mesma família dos geradores de imagem atuais: mais realistas, porém mais pesados de rodar.

Você não precisa dominar a matemática. Precisa guardar uma ideia: o sistema aprende sozinho e melhora a cada volta. Por isso os defeitos que você aprende a caçar hoje tendem a desaparecer na próxima geração de modelo.

Como identificar um deepfake hoje?

Dá para desconfiar por pistas. No vídeo, olhe as bordas do rosto e do cabelo, a iluminação, a sincronia labial e os reflexos nos olhos. No áudio, note a cadência plana e a ausência de respiração. Mas trate isso como triagem, não como prova definitiva.

Nos vídeos, os sinais clássicos são o piscar não-natural, o contorno do rosto que “treme”, sombras que não batem com o ambiente, dentes e orelhas borrados e reflexos inconsistentes entre os dois olhos. São falhas de renderização que a máquina ainda comete, mas conserta rápido.

Na voz clonada, o alerta é outro. A entonação sai levemente “chapada”, falta a respiração natural entre as frases, some o ruído de fundo coerente e às vezes aparecem cortes bruscos. É uma fala correta demais, limpa demais para ser humana.

Onde olhar	Sinal de alerta	Por que falha logo
Bordas do rosto	Contorno que “treme” ou borra no cabelo	Cada modelo novo renderiza bordas melhor
Olhos	Reflexos diferentes entre os dois olhos	Já corrigido em geradores recentes
Sincronia labial	Boca fora de tempo com o áudio	Modelos de vídeo evoluem rápido nisso
Respiração (voz)	Fala sem pausas para respirar	Novos clones já inserem respiração
Cadência (voz)	Entonação plana, “robótica”	Some a cada versão do modelo

Vale ler a tabela de trás para frente: a coluna da direita é o problema. Cada uma dessas pistas some um pouco a cada nova geração de modelo. Por isso elas servem para desconfiar, mas não podem ser a sua defesa principal.

Por que os sinais visuais estão ficando obsoletos

Porque a tecnologia melhora mais rápido do que o olho treina. Estudos já mostram pessoas identificando deepfakes perto do puro acaso e, pior, confiantes de que acertaram. Ensinar apenas a lista de sinais acaba criando uma falsa sensação de segurança.

Uma meta-análise que reuniu 56 estudos concluiu que a acurácia humana média fica em torno de 55%, mal acima do acaso, e cai ao nível do chute quando a mídia é uma imagem estática (Diel et al., ScienceDirect, 2024). Para ilustrar: num teste com 2.000 pessoas, só 0,1% identificou corretamente todos os itens reais e falsos, e a maioria ainda saiu confiante da resposta (iProov, 2025, empresa que vende verificação biométrica).

O detalhe mais perigoso não é o acerto baixo, é a confiança alta. Quem acha que “sabe reconhecer um deepfake” costuma baixar a guarda e cair mais fácil. A falsa segurança é o próprio golpe trabalhando a seu favor.

E os detectores automáticos, não resolvem sozinhos? Ajudam, mas têm um limite conhecido. Detectores treinados num conjunto de exemplos generalizam mal para modelos novos que aparecem “in the wild” (UC Berkeley I-School, 2025). É um jogo de gato e rato: cada gerador novo pede um detector novo.

Nada disso é motivo para pânico. A própria Meta afirma que menos de 1% da desinformação eleitoral checada nos ciclos de 2024 era conteúdo de IA (TechCrunch, 2024). O risco concentrado hoje é a fraude, não o apocalipse informacional. Guarde a calma e mude a estratégia. O deepfake, afinal, é só uma das armas na corrida entre a IA que ataca e a que defende.

A defesa que escala: verificar a origem da mídia

Se você não consegue mais confiar no que vê, confie na procedência: a trilha verificável de quem criou a mídia, quando e com qual ferramenta. É exatamente para isso que serve o padrão de credenciais de conteúdo, e o mais interessante é que ele nasce da criptografia que este blog já explicou.

O C2PA, ou Content Credentials, anexa à foto ou ao vídeo um “rótulo de origem” assinado criptograficamente. Por dentro, é o que você já viu por aqui: um hash criptográfico que funciona como impressão digital do arquivo, mais uma assinatura digital que prova quem assinou. Se alguém adultera a mídia, o selo quebra. O padrão é apoiado por Adobe, Microsoft, BBC e outros (Content Authenticity Initiative).

Existe ainda a marca d’água de IA, e o Google usa uma. O SynthID embute um sinal imperceptível no conteúdo gerado pelos modelos da empresa (DeepMind). É útil, mas com um limite honesto: ele só reconhece o que os modelos que o aplicam produziram. O próprio Google diz que a marca d’água “não é uma bala de prata” contra a desinformação.

Procedência não é mágica nem está em todo lugar ainda. Mesmo assim, é a aposta estrutural, porque muda a pergunta que você faz. Em vez de “isso parece real?”, você passa a perguntar “é possível provar a origem disso?”. A primeira pergunta o olho responde cada vez pior; a segunda tem resposta verificável.

Como se proteger do golpe da voz clonada?

Com voz clonada, o roteiro é quase sempre o mesmo: urgência mais um pedido de dinheiro ou de dados. A defesa não é auditiva, é de procedimento. Desconfie da pressa, confirme por outro canal e combine uma palavra-código com a família. É a mesma engenharia social de sempre: urgência somada a confiança.

Por que ficou tão fácil clonar uma voz? Porque bastam segundos de áudio. A Microsoft demonstrou clonagem convincente a partir de cerca de 3 segundos com a pesquisa VALL-E, em 2023. E sobra áudio seu em qualquer rede social. Quando testei um gerador de voz gratuito com um trecho meu de poucos segundos, o resultado não me enganaria de perto, mas numa ligação apressada de madrugada? Aí a conversa muda.

No Brasil, o golpe já circula em duas formas conhecidas. Uma é o “falso parente no WhatsApp”: um áudio com a voz clonada de alguém da família pede um Pix urgente, alegando um acidente ou uma conta bloqueada. A outra é o “Resgata Brasil”, que usou deepfakes de apresentadores conhecidos para simular uma falsa indenização (Aos Fatos / Agência Lupa, 2024). Em ambos, o rosto ou a voz famosa serve só para baixar a sua desconfiança.

A própria FTC recomenda a mesma receita: diante de uma ligação de emergência, confirme a história por outro caminho antes de mandar qualquer valor (FTC, 2024). Contra a voz clonada, o procedimento vence a tecnologia.

Deepfake é crime no Brasil?

Não existe uma lei que criminalize “fazer deepfake” em geral. O que pune é o uso. Dependendo do caso, um deepfake pode configurar calúnia, difamação, extorsão, estelionato ou violação da Lei Geral de Proteção de Dados. A conduta é que define o enquadramento, não a tecnologia em si.

No campo eleitoral, a régua é mais dura. O Tribunal Superior Eleitoral proibiu o uso de deepfakes na propaganda de campanha e passou a exigir que o emprego de IA seja rotulado, por meio da Resolução nº 23.732/2024. A ideia é simples: o eleitor tem direito de saber quando uma imagem foi fabricada.

Há também um marco recente contra a violência de gênero. A Lei nº 15.123/2025 agrava a pena quando a inteligência artificial é usada para alterar a imagem, o som ou a voz da vítima em situações de violência psicológica contra a mulher. É a lei reconhecendo o deepfake como ferramenta de abuso.

Se você foi alvo de um deepfake, o caminho é prático, não jurídico de manual. Registre um boletim de ocorrência, guarde os links e as capturas de tela e denuncie o conteúdo à plataforma onde ele circula. Para orientação sobre o seu caso concreto, procure um advogado ou a defensoria pública.

Perguntas frequentes

O que é um deepfake?

É uma mídia sintética, vídeo, imagem ou áudio, criada por inteligência artificial para imitar o rosto, o corpo ou a voz de uma pessoa. A tecnologia aprende os padrões de alguém a partir de fotos e áudios e gera um conteúdo novo, que aquela pessoa nunca produziu de verdade.

Como saber se um vídeo é deepfake?

Procure bordas do rosto que tremem, sombras fora de lugar, sincronia labial errada e reflexos estranhos nos olhos. Mas trate isso como suspeita, não como prova: os sinais somem a cada geração de modelo. A defesa mais segura é confirmar a origem do vídeo e o contexto por outro caminho.

Como funciona a clonagem de voz?

Um modelo de IA aprende o timbre e a entonação de alguém a partir de poucos segundos de áudio. A Microsoft demonstrou clonagem convincente com cerca de 3 segundos. Depois, basta digitar um texto e a voz falsa lê qualquer coisa, inclusive um pedido urgente de dinheiro por telefone.

Deepfake é crime no Brasil?

Não há lei que criminalize criar deepfakes em geral. O uso é que pode configurar crime, como calúnia, extorsão, estelionato ou violação da LGPD. Nas eleições, o TSE proíbe e exige rótulo de IA. E uma lei de 2025 agrava penas quando a IA falsifica a vítima em violência contra a mulher.

Deepfake é perigoso?

Para fraude e reputação, sim: golpes de voz e vídeos falsos de figuras públicas já causam prejuízo real. Mas vale a calma: a própria Meta afirma que menos de 1% da desinformação eleitoral checada em 2024 era feita por IA. O risco se concentra no golpe pontual, não no pânico geral.

Deepfakes: 3 hábitos que protegem você

Antes de fechar a aba, leve estes pontos:

• O olho já não basta. Humanos detectam deepfakes perto do acaso (Diel et al., 2024), então não confie apenas em “achar o defeito” na imagem;
• Verifique a origem antes de acreditar. Procedência (Content Credentials) e detecção automática apoiam, mas a regra do dia a dia é simples: confirme o contexto e o canal por onde a mídia chegou até você;
• Contra a voz clonada, procedimento vence tecnologia. Recebeu urgência mais pedido de dinheiro? Pare, ligue de volta pelo número que você já conhece e use a palavra-código combinada em casa. A IA copia a voz, não a senha da sua família.

Ainda há chão na trilha de Inteligência Artificial. Se quiser seguir, veja o que existe dentro de um LLM como o ChatGPT e a diferença entre IA generativa e IA analítica. Na próxima ligação apressada de “um parente”, você já sabe o reflexo certo.