El auge de Deepfakes y lo que eso significa para …



Las falsificaciones profundas convincentes son una preocupación actual, pero hay formas de contraatacar.

La cantidad de videos de deepfake encontrados en línea doblado de 2018 a 2019 y ha seguido aumentando desde entonces. Una falsificación profunda superpone imágenes de online video existentes o fotografías de una cara en una cabeza y cuerpo fuente usando inteligencia synthetic avanzada alimentada por redes neuronales, y puede hacer que el contenido de audio y video fraudulento parezca increíblemente actual.

La industria de la seguridad continúa alejándose de los métodos de autenticación obsoletos, como la autenticación de dos factores basada en SMS y la autenticación basada en el conocimiento, que son fácilmente susceptibles de fraude. Como resultado, ha habido un aumento en los métodos de autenticación basados ​​en biometría más avanzados como una alternativa segura, pero dependiendo de la sofisticación de esos sistemas biométricos, el aumento de la tecnología deepfake sin duda se convertirá en una preocupación mayor.

¿Cómo se crean Deepfakes de manera tan convincente?
Las falsificaciones profundas sofisticadas requieren cantidades considerables de datos y poder de cómputo para crear no es fácil cambiar la cara de una persona en un video. Necesitará una gran cantidad de grabaciones de video y voz (p. Ej., Grabaciones de sonido grabadas) de los sujetos y un paquete de nube de inteligencia synthetic disponible en el mercado capaz de entrenar una pink neuronal para tomar una imagen de la cara de una persona y generar una imagen del la cara de otra persona con la misma pose, expresión e iluminación.

Una vez que se entrena el modelo, se aplica al video clip específico que desea modificar. Si desea cambiar las palabras en el movie, necesitará una pink neuronal que también esté capacitada en datos de voz. Dependiendo de su nivel de habilidad, puede llevar horas o días, junto con cientos de dólares en tiempo de computación en servicios comerciales en la nube. Pero, en términos generales, sigue siendo un program disponible públicamente que puede ayudarlo a crear falsificaciones profundas por menos de $ 1,000 y unas pocas semanas para aprender el programa.

Si bien algunos de los films básicos de deepfake no son perfectos (pueden no capturar los detalles completos de la cara de una persona y puede haber algunos artefactos en los bordes), a menudo son lo suficientemente buenos como para engañar a la mayoría de los sistemas de detección de vida o sistemas capaces de analizar imágenes faciales y determinar si son de un ser humano vivo o una reproducción. No solo eso, muchos modelos de alta calidad están pre-entrenados y disponibles al público. Cualquiera puede ejecutar modelos preentrenados en cualquier movie y crear falsos profundos convincentes. Además, la tecnología deepfake continuará mejorando, más rápido y más barato. Si bien las falsificaciones convincentes son una preocupación serious, hay formas de contraatacar.

Cómo identificar un Deepfake
Existen diferentes tipos y niveles de deepfakes y ciertas herramientas necesarias para discernir un deepfake de una selfie en vivo genuine. Algunos deepfakes son más gruesos y de menor calidad, y se pueden producir rápidamente con aplicaciones gratuitas. Las falsificaciones profundas más convincentes o de mayor calidad requieren un esfuerzo, habilidad, dinero y tiempo más significativos.

El ojo humano puede detectar falsificaciones profundas al observar de cerca las imágenes para detectar imperfecciones leves, tales como:

  • Decoloraciones de la cara
  • Iluminación que no está del todo bien
  • Sonido y video clip mal sincronizados
  • Borrosidad donde la cara se encuentra con el cuello y el cabello.

Los algoritmos pueden detectar falsificaciones profundas analizando las imágenes y revelando pequeñas inconsistencias entre píxeles, colores o distorsiones. También es posible usar IA para detectar falsificaciones profundas al entrenar una pink neuronal para detectar cambios en las imágenes faciales que han sido alteradas artificialmente por el software. Las formas más robustas de detección de vida dependen del aprendizaje automático, la inteligencia artificial y la visión por computadora para examinar docenas de detalles minúsculos de un movie selfie, como la textura del cabello y la piel, los micromovimientos y los reflejos en el ojo de un sujeto.

Cómo se falsifican los métodos de verificación de identidad
Los métodos de verificación de identidad en línea se basan en una identificación con foto emitida por el gobierno y una selfie corroborante. Una parte importante del proceso es la detección de vida (normalmente realizada durante el proceso de toma de selfies), que asegura que la persona esté físicamente presente (en lugar de una parodia o una falsificación profunda).

La detección de vida debería detectar si el usuario es de hecho una persona genuine. Existen algunas formas básicas de detección de vida que requieren que el usuario parpadee, mueva los ojos, diga algunas palabras o asiente con la cabeza. Desafortunadamente, estas formas básicas de vida pueden ser falsificadas con un video falso. Una forma más sofisticada de engañar al sistema utiliza una foto normal que se anima rápidamente con el program y se convierte en un avatar realista de la víctima del fraude. El ataque permite movimientos faciales a pedido (parpadeo, nodo, sonrisa, and so on.) que parecen mucho más convincentes para la cámara que una foto sin vida. Al exigir a los usuarios que regresan que capturen una selfie y restablezcan la «vitalidad», es prácticamente imposible para los estafadores hacerse cargo de las cuentas existentes.

Cómo armarte contra Deepfakes
Desafortunadamente, no hay paquetes disponibles comercialmente que puedan detectar automáticamente las falsificaciones profundas para todas las aplicaciones y todos los modelos de uso, a pesar de los esfuerzos de las universidades, las plataformas en línea y los gigantes tecnológicos para combatir la amenaza.

A medida que la investigación continúa, los encargados de formular políticas deben desarrollar una legislación para desalentar el uso de falsificaciones profundas y penalizar a aquellos que son atrapados manipulando films para engañar a otros como una forma de fraude. Las empresas tecnológicas también juegan un papel importante. Facebook ha fortalecido su política hacia los medios manipulados para combatir la información errónea al agregar criterios de eliminación de falsificaciones profundas y similares. los compañía dijo ahora eliminará los medios que «han sido editados o sintetizados, más allá de los ajustes por claridad o calidad, de maneras que no son evidentes para una persona promedio y que probablemente inducirán a error a alguien a pensar que un sujeto del online video dijo palabras que no dijo en realidad decir «. Estos son los tipos de pasos que necesitamos para mantener la eficacia del contenido y una mejor confianza en línea, pero no debemos suponer que una política de Fb detendrá a los cibercriminales por crear falsificaciones profundas para evitar las soluciones de verificación basadas en datos biométricos.

Siempre habrá una carrera armamentista entre hackers e ingenieros de ciberseguridad. Las organizaciones deben mantenerse a la vanguardia y adoptar las últimas tecnologías disponibles en el mercado para evitar daños.

Contenido relacionado:

Labhesh Patel es el CTO y científico jefe de Jumio. Es responsable de impulsar la innovación de Jumio mediante la operacionalización del aprendizaje profundo, la visión por computadora y la inteligencia aumentada. Un pensador innovador, Labhesh tiene 135 patentes emitidas bajo su nombre. Ver biografía completa

Más concepts





Enlace a la noticia initial