Detección de la edición de imágenes deepfake – Schneier on Security


Detección de la edición de imágenes deepfake

«Markpainting» es una técnica inteligente para agregar marcas de agua a las fotos de tal manera que sea más fácil detectar la manipulación basada en ML:

El propietario de una imagen puede modificar su imagen de maneras sutiles que no son muy visibles, pero saboteará cualquier intento de pintarla agregando información seen determinada de antemano por el pintor de marcas.

Una aplicación son las marcas a prueba de manipulaciones. Por ejemplo, una agencia de fotografía que pone a disposición fotografías de archivo en su sitio net con marcas de agua con derechos de autor puede marcarlas, pintarlas de tal manera que cualquier persona que utilice un application de edición común para eliminar una marca de agua fallará la marca de derechos de autor se marcará pintada en la parte posterior. Por lo tanto, las marcas de agua se pueden hacer mucho más robustas.

Aquí está el papel: «Markpainting: el aprendizaje automático adverso se encuentra con la pintura, ”Por David Khachaturov, Ilia Shumailov, Yiren Zhao, Nicolas Papernot y Ross Anderson.

Resumen: Inpainting es una técnica de interpolación aprendida que se basa en el modelado generativo y se utiliza para poblar piezas enmascaradas o faltantes en una imagen tiene amplias aplicaciones en edición y retoque de imágenes. Recientemente, se comenzó a usar inpainting para eliminar marcas de agua, lo que generó preocupaciones. En este artículo estudiamos cómo manipularlo utilizando nuestra técnica de marcado de pintura. Primero, mostramos cómo el propietario de una imagen con acceso a un modelo de pintura puede aumentar su imagen de tal manera que cualquier intento de editarla usando ese modelo agregará información obvious arbitraria. Descubrimos que podemos apuntar a múltiples modelos diferentes simultáneamente con nuestra técnica. Esto puede diseñarse para reconstituir una marca de agua si el editor había intentado eliminarla. En segundo lugar, mostramos que nuestra técnica de pintura de marcas es transferible a modelos que tienen diferentes arquitecturas o que fueron entrenados en diferentes conjuntos de datos, por lo que las marcas de agua creadas con ella son difíciles de eliminar para los adversarios. Markpainting es novedoso y se puede utilizar como una alarma de manipulación que se hace visible en caso de inpainting.

Publicado el 10 de junio de 2021 a las 6:19 h. •
1 comentarios

Foto de la barra lateral de Bruce Schneier por Joe MacInnis.



Enlace a la noticia initial