Como detectar Deepfakes: um guia para detectar mídias falsas

Freqüentemente compartilhamos fotos e vídeos em sites e mídias sociais sem considerar os riscos potenciais. Seja por voz, vídeo ou imagens, os deepfakes estão se tornando mais difíceis de detectar, pois as tecnologias usadas para criá-los apresentam um nível de precisão incrível. Mas você não precisa se tornar outra vítima inocente. Este guia mostra como detectar uma imagem, vídeo ou som deepfake de maneira confiável e precisa.

Com quais tipos de deepfakes devo me preocupar?

O início dos deepfakes é um fenômeno muito recente que pegou muitos de nós de surpresa. Suas raízes estão em tecnologias mais recentes de IA, como “ difusão estável ” e redes adversárias generativas (GAN).

Existem três tipos populares de deepfakes:

• Tecnologias de troca de rosto : substitua o rosto de uma pessoa pelo de outra para uma troca irreconhecível. Fiquei completamente impressionado com a precisão com que um desses softwares de troca de rosto poderia “espiar” sob meus óculos escuros para criar uma versão mais recente de mim. É como o Photoshop – mas muito mais poderoso!

• Geradores de voz de IA : não gosta do seu som? Agora você pode usar muitas tecnologias de gerador de voz de IA online para obter uma voz sintética que parece real. É claro que os malfeitores só precisam baixar qualquer um dos seus vídeos originais online para criar uma voz falsa.
• Software de síntese de vídeo : existem muitos aplicativos que podem gerar vídeos deepfake enviando uma imagem alvo em um vídeo de sua escolha. Recentemente, um sintetizador de vídeo desconhecido foi usado por uma gangue criminosa para enganar uma empresa com sede em Hong Kong em US$ 25 milhões em uma videoconferência Zoom.

Muitos dos aplicativos usados ​​para criar deepfakes podem ser encontrados legitimamente na Web, no Google Play e na App Store. Detecte facilmente deepfakes usando os seguintes métodos.

1. Pistas Visuais

A detecção de deepfake pareceria uma tarefa simples para aqueles que sabem se uma imagem parece um pouco “estranha”. Nos primeiros deepfakes, muitas vezes você pode capturá-los usando alguns sinais de alerta, como desfoque nas bordas, rosto suavizado, sobrancelhas duplas, falhas ou uma sensação geral “não natural” no ajuste do rosto.

No entanto, à medida que essas tecnologias progrediram, está se tornando cada vez mais difícil diferenciar as imagens e vídeos falsos dos reais. Ainda assim, você pode tentar ficar atento a desfoques, distorções e diferenças faciais estranhas.

Visualmente, há algumas revelações óbvias na imagem falsa à direita: especialmente o queixo duplo não natural. Se precisar de mais dados, compare a imagem falsa com muitas outras amostras originais.

Com os vídeos, a revelação mais óbvia é quando um deepfake não tem movimento natural, mas os deepfakes geralmente têm pulsos. Irregularidades (como diferentes partes do rosto exibindo movimentos diferentes) podem ajudar a identificar um vídeo deepfake.

Existem também indicadores biométricos, mas não entraríamos nisso porque não é possível analisar dados biométricos usando aplicativos gratuitos para smartphones ou computadores.

2. A técnica de “ampliar”

Embora na superfície uma imagem deepfake pareça bastante suave (é muito menos detectável do que uma imagem no Photoshop), você só precisa “aumentar o zoom” dentro da imagem para detectar quaisquer irregularidades. Rosto oculto, contornos irregulares e orelhas deformadas são apenas alguns dos sinais visíveis de um deepfake.

Para detectar deepfakes em uma plataforma de videoconferência, os especialistas recomendaram algumas estratégias semelhantes. Em vez de visualizar o outro participante em uma visualização de miniatura ou galeria, você pode ter uma visualização em tela inteira, que irá ampliá-los para preencher toda a tela.

3. Usando metadados de imagem

De todos os métodos de detecção de deepfake por IA, este é o mais infalível e facilmente acessível a todos. Verifique os metadados de uma imagem para identificar se é uma imagem original.

Em um computador Windows, abra as Propriedades de uma imagem clicando com o botão direito. Vá para a guia Detalhes e você encontrará as especificações da câmera, como fabricante da câmera, modelo da câmera, tempo de exposição, velocidade ISO, distância focal e se um flash foi usado ou não. Uma imagem deepfake nunca pode ter esses detalhes.

Em um dispositivo Mac, clique com o botão direito em uma imagem e selecione Obter informações -> Mais informações para visualizar os metadados da imagem.

Existem alguns softwares de metadados de imagem online que fornecem detalhes mais avançados. Jimpl é uma das melhores ferramentas e de uso totalmente gratuito.

Carregue uma imagem tirada em um smartphone e visualize suas informações EXIF. Mesmo que a localização esteja desativada, os dados do Mobile Content Cloud (MCC) estarão sempre ativados. (Ele está conectado ao provedor do SIM.) Além disso, a altura, a largura e os megapixels da imagem estão em seus valores máximos, algo que as imagens deepfake simplesmente não conseguem replicar.

Se você é uma celebridade e sua imagem é de domínio público, os metadados permitem visualizar os direitos autorais do seu perfil, que fornecem a data em que a imagem foi carregada. Tenha certeza de que esses dados não podem ser falsificados.

Se você fez uma captura de tela usando um telefone Android, o Google se tornará o proprietário dos direitos autorais do perfil. O mesmo vale para a Apple em iPhones.

Quando você carrega uma imagem ou vídeo deepfake para seus metadados, nenhuma informação acima será exibida. A imagem falsa simplesmente não tem pedigree próprio. Além disso, o tamanho/largura pequeno e restrito da imagem deve ser motivo de suspeita.

4. Ferramentas online para detectar Deepfakes

Existem alguns softwares de detecção de deepfake, mas não muitos. Testamos muitas ferramentas online para detectar deepfakes. A maioria deles fornece resultados imprecisos e falsos positivos.

Muitos também exigem pagamento adiantado, o que não recomendamos, pois os resultados não são nada satisfatórios. Em nossos experimentos, eles detectaram muitas de nossas fotos originais como “falsas” e não conseguiram identificar as falsas.

No entanto, as seguintes ferramentas online destacam-se como as melhores exceções e funcionaram muito bem para nós.

Detector de imagens falsas

Fake Image Detector é uma ferramenta gratuita que se aprofunda nos metadados e binários de uma imagem para fornecer resultados diretos de detecção de deepfake. Quando você tem uma imagem original, sua resposta é “Nenhum nível de erro detectado”. Além disso, gera uma assinatura de software para provar a autenticidade.

No entanto, o software está sujeito a erros. Às vezes, pode não conseguir detectar uma imagem deepfake óbvia, mas há uma solução para isso.

Em vez de postar a imagem deepfake em seu tamanho original, você pode querer “aumentar o zoom” em uma parte selecionada da imagem. Faça uma captura de tela e analise apenas essa parte. O software identificará a mesma imagem como gerada por computador.

Perícia Fotográfica

Foto Forensics é uma ferramenta mais avançada que utiliza o método altamente preciso, “Análise de nível de erro” (ELA), para detectar níveis de compressão em imagens. Se uma determinada parte de uma imagem tiver um nível de erro diferente, ela foi modificada digitalmente e adicionada à imagem principal.

Neste exemplo, a face da imagem tem uma cor e um componente ELA diferentes, conforme visto no quadrado preto.

Por outro lado, este exemplo é a análise ELA para uma imagem adequada baseada em câmera. Não há irregularidades. A diferença é muito sutil para os humanos perceberem, mas as máquinas são ótimas para captá-la.

Se você deseja detectar deepfakes, não existem muitas outras ferramentas convincentes. No entanto, AI or Not é bom e muito mais fácil de usar.

Como a tecnologia de detecção de deepfake é um campo em evolução, fique atento a novos métodos. Vamos também lembrar como a Internet funciona: mesmo que essas falsificações sejam detectadas, elas provavelmente serão recirculadas e algumas pessoas acreditarão de qualquer maneira. Se você estiver em um iPhone, pode estar interessado em conferir aplicativos de IA que geram conteúdo .

Créditos da imagem: Pexels . Todas as capturas de tela por Sayak Boral.