Recuperación de rostros reales del sistema de aprendizaje automático de generación de rostros


Recuperación de rostros reales del sistema de aprendizaje automático de generación de rostros

Nuevo papel: «Esta persona (probablemente) existe. Ataques de membresía de identidad contra rostros generados por GAN.

Abstracto: Recientemente, las redes generativas de confrontación (GAN) han logrado un realismo asombroso, engañando incluso a los observadores humanos. De hecho, el well-known sitio web irónico http://thispersondoesnotexist.com se burla de los usuarios con imágenes generadas por GAN que parecen demasiado reales para creer. Por otro lado, las GAN filtran información sobre sus datos de entrenamiento, como lo demuestran los ataques de membresía recientemente demostrados en la literatura. En este trabajo, desafiamos la suposición de que las caras de GAN realmente son creaciones novedosas, al construir un ataque de membresía exitoso de un nuevo tipo. A diferencia de trabajos anteriores, nuestro ataque puede discernir con precisión muestras que comparten la misma identidad que las muestras de entrenamiento sin ser las mismas muestras. Demostramos el interés de nuestro ataque en varios conjuntos de datos faciales populares y procedimientos de entrenamiento GAN. En individual, mostramos que incluso en presencia de una diversidad significativa de conjuntos de datos, una persona sobrerrepresentada puede plantear un problema de privacidad.

Noticias artículo. Slashdot correo.

Publicado el 14 de octubre de 2021 a las 9:56 AM • Comentarios

Foto de la barra lateral de Bruce Schneier por Joe MacInnis.



Enlace a la noticia authentic