Los clones digitales podrían causar problemas de identidad …



Tres tecnologías fundamentales (chatbots, falsificaciones de audio y films deepfake) han mejorado hasta el punto de que la creación de clones digitales de personas en tiempo actual es simplemente una cuestión de integración de los sistemas.

Las tecnologías fundamentales para crear clones digitales de personas (texto, audio y video clip que suenan y se ven como una persona específica) han avanzado rápidamente y están a una distancia sorprendente de un futuro en el que los avatares digitales pueden sonar y actuar como personas específicas, Tamaghna Basu , cofundador y director de tecnología de neoEYED, una firma de análisis de comportamiento, dijo a los asistentes a la conferencia digital Black Hat el 6 de agosto.

Si bien los video clips deepfake que superponen un modelo 3D de una persona específica sobre el rostro de otra persona han suscitado el temor de los videos de propaganda, las operaciones de desinformación y las campañas de difamación, los clones digitales exitosos podrían causar aún más problemas, especialmente para los sistemas que utilizan el reconocimiento facial o de voz para el acceso. gestión o como una forma de engañar a los empleados para que acepten la identidad de alguien. Si bien el resultado actual del experimento de Basu tiene numerosos signos reveladores de que el sujeto claramente no es humano, el éxito relativo del proyecto demuestra lo cerca que podemos estar de crear personas simuladas con éxito.

«Como se puede ver claramente, hay una brecha, pero esta brecha se trata de hacer que la voz sea más convincente, hacer que las expresiones faciales tengan más emoción, esas están en la hoja de ruta por hacer», dijo a los asistentes durante su presentación. «El objetivo final que tengo, (construir) una (versión de mí) alternativa que pueda tener una conversación por texto, voz y video clip», parece alcanzable.

Inspirado en programas futuristas como Espejo negro, Basu decidió intentar construir un clon digital de sí mismo utilizando tres tecnologías ya existentes: chatbots, síntesis de audio y videos deepfake. El esfuerzo tiene menos que ver con la investigación authentic y más con unir una variedad de tecnologías. Si bien la versión de video de su clon electronic es entrecortada y la voz suena generada, varios amigos que conversaron con la versión de chatbot de su modelo pensaron que podría estar enviando las respuestas a la máquina.

Tal personalización creíble sugiere que, dependiendo de qué tan cerca estén dos personas, un clon digital podría engañar a uno haciéndole creer que es la otra persona, dijo.

«Nuestro objetivo era obtener una prueba de Turing positiva, convencerlos de que realmente soy yo», dijo en una entrevista de Dark Reading through, y agregó: «Una de las partes más aterradoras es que si tienes 100 amigos en tu Facebook, hablando honestamente, hay muy pocas relaciones en las que la gente sea muy own. Entonces, el problema actual es que es fácil fingir la relación».

La tecnología podría significar problemas para las tecnologías de verificación de identidad, agregó. La empresa de Basu utiliza la analítica para crear perfiles de comportamiento de las personas para proteger las identidades, una de las razones por las que decidió adoptar una estrategia de confrontación e intentar utilizar perfiles de comportamiento para crear un clon. Los clones digitales que no solo se ven y suenan como otra persona, sino que también tienen gestos y patrones de habla que son similares al sujeto, facilitarán la ingeniería social.

En un nivel alto, la tecnología se divide en tres partes, que Basu llamó cerebro, voz y rostro. El cerebro es un motor de chatbot de texto que intenta tener un chat interactivo utilizando el procesamiento del lenguaje purely natural. Existe una variedad de enfoques para los chatbots que pueden producir una funcionalidad razonable, según el tipo de conversación. Las conversaciones de dominio limitado, como las conversaciones triviales y las conversaciones que buscan información específica, a menudo pueden basarse en reglas.

Usando una variedad de historiales de chat diferentes para una persona específica, puede entrenar a dichos bots para que usen el mismo tipo de lenguaje que esa persona, él dijo durante la presentación. «El cerebro es el motor que es el quid de todo el proyecto. Sabe qué tipo de preguntas hacer y cómo responder a esas preguntas».

Usando una biblioteca de chatbot de código abierto conocida como Rasa, Basu creó un sistema que podía hacer pequeñas charlas y mantener conversaciones. Basu también usó software program de síntesis de audio y 500 muestras de su voz con un promedio de 10 segundos cada una para entrenar el proceso de aprendizaje automático. Una mejor clonación de audio requerirá hasta 10 horas de grabación. Está jugando con los acentos.

Para el rostro, quería crearlo casi en tiempo true y que la boca coincidiera con las palabras. En basic, los ataques de identidad parecen factibles y en este punto simplemente requieren un refinamiento, dijo.

Contenido relacionado:

Periodista tecnológico veterano de más de 20 años. Ex ingeniero de investigación. Escrito para más de dos docenas de publicaciones, incluidas CNET News.com, Darkish Reading, MIT&#39s Technological know-how Overview, Well-known Science y Wired Information. Cinco premios de periodismo, incluido el de Mejor fecha límite … Ver biografía completa

Lectura recomendada:

Más información





Enlace a la noticia first