Deepfake é um vídeo, uma foto ou um áudio falso feito com IA para parecer real: o rosto de alguém no corpo de outra pessoa, ou a voz dela dizendo algo que nunca disse. O nome junta deep learning e fake. Aparece em humor e cinema, e também em golpes.
Uma pergunta do app. Escolha uma resposta.
Seu irmão liga, com a voz dele: está com problema e precisa de dinheiro já. O que faz?
Uma foto ou um vídeo na mesma conversa não bastam para confirmar quem é: a IA também pode gerá-los.
Uma voz pode ser clonada com um áudio curto. Ligar você para o número que já tinha não depende de perceber o golpe.
Uma voz clonada pode soar igual, e ao telefone os defeitos aparecem menos. Como soa já não prova quem é.
Um deepfake vem da IA generativa: uma rede neural aprende com fotos, vídeos ou áudios de uma pessoa e gera conteúdo novo com o rosto ou a voz dela. Os casos mais comuns são a troca de rosto num vídeo, a voz clonada e a foto inventada de algo que nunca aconteceu.
Para clonar uma voz basta um áudio curto, como o de um vídeo publicado ou uma mensagem de voz. E por telefone o golpe é mais difícil de perceber.
Em vídeo: a boca que não acompanha bem o que é dito, dentes ou mãos estranhos, bordas borradas em volta do rosto, luz que não combina com o fundo, uma pele lisa demais. Em áudio: uma voz uniforme sem respiração, pausas em lugares estranhos ou uma emoção que não muda.
Ajudam, mas cada vez menos: os modelos melhoram e um bom deepfake pode não ter nenhum. Não ver nada estranho não prova que é real.
O caso típico: sua filha liga, com a voz dela, chorando. Teve um problema, precisa de dinheiro já e pede para você não contar a ninguém. Urgência, segredo e dinheiro juntos são um sinal de alerta, mesmo que a voz pareça real.
Não precisa vencer o deepfake olhando: desligue e ligue você para o número que já tinha, ou mande mensagem por outro app. Se não atender, pergunte a alguém que esteja com ela. Uma foto ou um vídeo na mesma conversa não bastam para confirmar quem é: também dá para gerar.
Mais um truque: combinar em família uma palavra-chave que não esteja em lugar nenhum. Se quem liga não souber, não envie dinheiro: confirme por outro canal. O mesmo vale no trabalho para um pedido estranho do chefe por vídeo: confirme pelo canal de sempre.
"Se vejo em vídeo, é real." Não mais: um vídeo ou uma videochamada também podem ser falsificados.
"Um detector de deepfake resolve." Ajudam, mas erram nos dois sentidos. Use como mais uma pista, não como veredito.
"Tudo que é falso é deepfake." Uma foto real fora de contexto ou um áudio cortado enganam do mesmo jeito, sem IA. A pergunta é a mesma: de onde veio e quem confirma?