Cómo detectar deepfakes: una guía para detectar medios falsos

A menudo compartimos fotos y vídeos en sitios web y redes sociales sin considerar los riesgos potenciales. Ya sea a través de voz, vídeo o imágenes, los deepfakes son cada vez más difíciles de detectar, ya que las tecnologías utilizadas para crearlos tienen un nivel de precisión increíble. Pero no tienes por qué convertirte en otra víctima inocente. Esta guía muestra cómo detectar una imagen, un vídeo o un sonido deepfake de forma fiable y precisa.

¿De qué tipos de deepfakes debería preocuparme?

La aparición de los deepfakes es un fenómeno muy reciente que a muchos nos ha pillado por sorpresa. Sus raíces se encuentran en tecnologías de inteligencia artificial más nuevas, como la “ difusión estable ” y las redes generativas adversarias (GAN).

Hay tres tipos populares de deepfakes:

• Tecnologías de intercambio de caras : sustituir la cara de una persona por otra para lograr un intercambio irreconocible. Me quedé completamente impresionado por la precisión con la que uno de estos programas de intercambio de rostros podía «mirar» debajo de mis gafas de sol para crear una versión más nueva de mí. Es como Photoshop, ¡pero mucho más potente!

• Generadores de voz con IA : ¿no te gusta cómo suenas? Ahora puede utilizar muchas tecnologías de generación de voz de IA en línea para brindarle una voz sintética que suene como la real. Por supuesto, los malos actores sólo necesitan descargar cualquiera de tus videos originales en línea para crear una voz deepfake.
• Software de síntesis de video : existen muchas aplicaciones que pueden generar videos deepfake cargando una imagen de destino en un video de su elección. Recientemente, una banda criminal utilizó un sintetizador de vídeo desconocido para estafar a una empresa con sede en Hong Kong 25 millones de dólares a través de una videoconferencia de Zoom.

Muchas de las aplicaciones utilizadas para crear deepfakes se pueden encontrar legítimamente en la Web, en Google Play y App Store. Detecta fácilmente deepfakes utilizando los siguientes métodos.

1. Pistas visuales

La detección de deepfake parecería un asunto sencillo para aquellos que pueden saber si una imagen se siente un poco «anormal». En los primeros deepfakes, a menudo se podían detectar mediante algunas señales de advertencia, como bordes borrosos, una cara demasiado suavizada, cejas dobles, fallos técnicos o una sensación general “antinatural” en la forma en que se adapta la cara.

Sin embargo, a medida que han progresado estas tecnologías, cada vez es más difícil distinguir las imágenes y vídeos falsos de los reales. Aun así, puedes intentar estar atento a posibles imágenes borrosas, distorsiones y diferencias faciales asombrosas.

Visualmente, hay algunos indicios obvios en la imagen falsa de la derecha: especialmente la papada antinatural. Si necesita más datos, compare la imagen falsa con muchas más muestras originales.

Con los videos, la señal más obvia es cuando un deepfake no tiene movimiento natural, pero los deepfake a menudo sí tienen pulsos. Las irregularidades (como diferentes partes de la cara que muestran diferentes movimientos) pueden ayudar a identificar un video deepfake.

También existen indicadores biométricos, pero no entraremos en detalles porque no es posible analizar datos biométricos utilizando aplicaciones gratuitas para teléfonos inteligentes o computadoras.

2. La técnica del “acercamiento”

Si bien en la superficie, una imagen deepfake parece bastante suave (es mucho menos detectable que una imagen retocada con Photoshop), solo necesita «acercar» el interior de la imagen para detectar cualquier irregularidad. Un rostro oculto, contornos irregulares y orejas deformes son sólo algunos de los signos visibles de un deepfake.

Para detectar deepfakes en una plataforma de videoconferencia, los expertos han recomendado algunas estrategias similares. En lugar de ver al otro participante en una vista de miniatura o galería, puede tener una vista de pantalla completa, que lo ampliará hasta llenar toda la pantalla.

3. Uso de metadatos de imagen

De todos los métodos de detección de deepfake mediante IA, este es el más infalible y es de fácil acceso para todos. Verifique los metadatos de una imagen para identificar si es una imagen original.

En una computadora con Windows, abra las Propiedades de una imagen haciendo clic derecho. Vaya a la pestaña Detalles y podrá encontrar las especificaciones de la cámara, como el fabricante de la cámara, el modelo de la cámara, el tiempo de exposición, la velocidad ISO, la distancia focal y si se utilizó o no un flash. Una imagen deepfake nunca puede tener estos detalles.

En un dispositivo Mac, haga clic derecho en una imagen y seleccione Obtener información -> Más información para ver los metadatos de la imagen.

Hay algún software de metadatos de imágenes en línea que brinda detalles más avanzados. Jimmpl es una de las mejores herramientas y de uso completamente gratuito.

Cargue una imagen tomada con un teléfono inteligente y luego vea su información EXIF. Incluso si la ubicación está desactivada, los datos de Mobile Content Cloud (MCC) siempre están activados. (Está conectado al proveedor de SIM). Además, la altura, el ancho y los megapíxeles de la imagen están en sus valores máximos, que es algo que las imágenes deepfake simplemente no pueden replicar.

Si eres una celebridad y tu imagen es de dominio público, los metadatos te permiten ver los derechos de autor de tu perfil, que indican la fecha en que se cargó la imagen. Tenga la seguridad de que estos datos no se pueden falsificar.

Si tomó una captura de pantalla con un teléfono Android, Google se convierte en el propietario de los derechos de autor del perfil. Lo mismo ocurre con Apple en los iPhone.

Cuando subes una imagen o un vídeo deepfake para sus metadatos, no se mostrará ninguna información arriba. La imagen falsa simplemente no tiene pedigrí propio. Además, el tamaño/ancho de la imagen pequeño y restringido debería ser motivo de sospecha.

4. Herramientas en línea para detectar deepfakes

Existen algunos programas de detección de deepfakes, pero no muchos. Probamos muchas herramientas en línea para detectar deepfakes. La mayoría de ellos dan resultados inexactos y falsos positivos.

Muchos también exigen un pago por adelantado, algo que no recomendaríamos, ya que los resultados no son nada satisfactorios. En nuestros experimentos, detectaron muchas de nuestras fotos originales como “falsas” y no pudieron identificar las ultrafalsas.

Sin embargo, las siguientes herramientas en línea se destacan como las mejores excepciones y funcionaron bastante bien para nosotros.

Detector de imágenes falsas

Fake Image Detector es una herramienta gratuita que profundiza en los metadatos y binarios de una imagen para brindar resultados directos de detección de deepfake. Cuando tiene una imagen original, su respuesta es «No se detectó ningún nivel de error». Además, genera una firma de software para demostrar la autenticidad.

Sin embargo, el software es propenso a errores. Es posible que a veces no detecte una imagen deepfake obvia, pero existe una solución.

En lugar de publicar la imagen deepfake en su tamaño original, es posible que desees “acercar” una parte seleccionada de la imagen. Toma una captura de pantalla y analiza solo esa parte. El software identificará la misma imagen que la generada por computadora.

Fotoforense

Foto Forensics es una herramienta más avanzada que utiliza el método de alta precisión, «Análisis de nivel de error» (ELA), para detectar niveles de compresión en imágenes. Si una parte particular de una imagen tiene un nivel de error diferente, se modificó digitalmente y se agregó a la imagen principal.

En este ejemplo, la cara de la imagen tiene un color y componente ELA diferente, como se ve en el cuadrado negro.

Por otro lado, este ejemplo es el análisis ELA para una imagen adecuada basada en una cámara. No hay irregularidades. La diferencia es demasiado sutil para que los humanos la perciban, pero las máquinas son excelentes para captarla.

Si desea detectar deepfakes, no existen muchas otras herramientas convincentes. Sin embargo, AI or Not es buena y mucho más fácil de usar.

Como la tecnología de detección de deepfake es un campo en evolución, esté atento a nuevos métodos. Recordemos también cómo funciona Internet: incluso si se descubren estas falsificaciones, es probable que algunas personas las recirculen y las crean de todos modos. Si tiene un iPhone, es posible que le interese consultar las aplicaciones de inteligencia artificial que generan contenido .

Créditos de la imagen: Pexels . Todas las capturas de pantalla son de Sayak Boral.