MÁS

Facebook ha desarrollado un nuevo método para rastrear el origen de los deepfakes

El equipo de Facebook está trabajando con la Universidad Estatal de Michigan para desarrollar un nuevo proyecto que se centrará en la falsificación profunda.

Desarrollan una herramienta que pueden reconocer y rastrear hasta su origen. Esto permite realizar un seguimiento de cualquier despliegue a gran escala de información errónea coordinada o profundamente corrupta.

Nuevas herramientas de Facebook para combatir el fraude profundo

Facebook está desarrollando una herramienta que utiliza ingeniería inversa para rastrear patrones generativos que conducen a ciertos deepfakes. Sí, quieren ir más allá de simplemente determinar si una imagen es real o profundamente falsa porque quieren conocer la fuente.

Para hacer esto, necesitan conocer los atributos o patrones únicos del modelo que se utilizó para crear la falsificación profunda. A partir de este conocimiento, como si fueran rastros, es posible rastrear las similitudes entre falsificaciones profundas y ver si se derivan del mismo modelo generativo.

Dinámicas que ayudan a rastrear la fuente de información falsa y analizar el contenido, incluso si se ha extendido a diferentes plataformas en línea. Sin embargo, este es un gran problema para los investigadores, ya que es un área inexplorada y no hay investigaciones en las que basar o comparar los resultados.

Esta es la primera vez que los investigadores han podido identificar los atributos del modelo utilizado para crear una falsificación profunda sin conocer primero el modelo. […] Para probar el método, un grupo de investigación de la Universidad Estatal de Moscú recopiló un conjunto de datos de imágenes virtuales con 100.000 imágenes sintéticas generadas a partir de 100 modelos generativos disponibles públicamente.

Por lo tanto, primero determinan si el contenido es real o muy falso y luego buscan esos patrones de huellas digitales únicos que les permiten identificar la fuente. Es decir, el modelo generativo después de desarrollar una determinada colección de deepfakes.

Si bien esta no es una metodología completa y aún está lejos de ser desarrollada, es un avance muy interesante en la lucha contra el fraude profundamente arraigado.

Deja una respuesta

Tu dirección de correo electrónico no será publicada.

Botón volver arriba
error: Content is protected !!