Se necesita educación y legislación para combatir la amenaza significativa de las falsificaciones profundas.
Karen Roby de TechRepublic habló con Matt Selling price de ZeroFox sobre el tipo de falsificaciones profundas que circulan y su impacto potencial en el ciclo electoral. La siguiente es una transcripción editada de su entrevista.
Precio de Matt: Audio deepfakes son solo audio sintético generalmente entrenado en la voz de una determinada persona, como el CEO de una empresa, y luego puede alimentar el texto en ese algoritmo, que luego genera las palabras apropiadas usando la voz sintética de esa persona.
Las falsificaciones de movie, por otro lado, son films en los que generalmente copias la cara de alguien en un actor o simplemente reemplazas la cara de esa persona first, haciéndoles decir algo que realmente nunca dijeron. Por lo tanto, esto puede ser muy poco tiempo. El movie podría ser tal vez solo cinco segundos de video modificado, o podría ser todo el online video modificado. Hemos visto falsificaciones profundas que duran varios minutos.
VER: Cómo proteger su línea de conferencia de zoom de hackers (PDF gratuito) (TechRepublic)
Karen Roby: Expanda para nosotros en deepfakes durante la temporada electoral y ¿qué tan preocupados deberíamos estar?
Precio de Matt: Hemos visto pruebas de conceptos de deepfakes lanzados que podrían usarse para influir en el electorado. No hemos visto ningún deepfakes lanzado en la naturaleza que creemos que son genuinamente maliciosos, sin decir que son deepfakes e intentando enmascarar lo que son. Pero realmente al final del día podrían tener una gran influencia. Si se descarta una falsificación profunda en el momento adecuado, por ejemplo, dos o tres días antes de que se produzca una elección, ¿imagina el impacto que podría tener si se vuelve viral? Y dentro de ese período de dos o tres días, puede que no sea suficiente tiempo para ir y demostrar de manera concluyente que este online video fue falso. Eso podría influir en el electorado, lo suficiente como para votar por un candidato político en unique. Esa es realmente la gran pregunta sobre las falsificaciones profundas y cómo podrían implementarse y cómo los detendríamos antes de que se volvieran virales.
Sin embargo, más allá de las falsificaciones profundas, ya hemos visto las operaciones de influencia que ocurren hoy con textos e imágenes. Así que los deepfakes son solo otra herramienta en el arsenal de ese actor malicioso para llevar a cabo estas operaciones de influencia.
Karen Roby: ¿Hay diferentes tipos de estafas que involucren falsificaciones profundas en las elecciones en certain?
Precio de Matt: Al menos en términos de elecciones, las falsificaciones profundas, como mencioné antes, son solo una pequeña pieza del rompecabezas. Hay muchas cosas que ya suceden hoy en torno a las elecciones que no creo que mucha gente sepa. Uno de los grandes son impostores. Hay muchas personas que entran y se hacen pasar por un candidato político, dicen que hemos atrapado a algunos con Bernie Sanders, por ejemplo, y a una pareja con un presidente Trump. Entonces esos impostores andan por ahí, intentan difundir un mensaje ligeramente diferente o intentan recolectar donaciones de la gente y obviamente desaparecen con las donaciones.
Related a eso, también hay estafas en las que no están tratando necesariamente de hacerse pasar por el candidato político, sino que están tratando de obtener dinero o información private identificable para que luego puedan intentar entrar en las cuentas de una persona.
Karen Roby: Entonces la gran pregunta es, ¿qué hacemos?
Precio de Matt: Hay varias maneras diferentes de abordar este problema, y no creo que ninguna sea una solución en sí misma. Uno es solo la vigilancia proactiva en sitios world-wide-web grandes, y particularmente en las redes sociales. Designando claramente que algo es un medio sintético o si los hechos en el artículo no pueden ser probados, creo que ayudaría mucho a educar a las personas sobre lo que están leyendo.
La otra pieza es la educación. Debes ser muy consciente y consciente de que lo que estás leyendo en línea puede no ser la verdad. No hay necesariamente mucha vigilancia con el contenido que se pone en línea y nunca se sabe de dónde viene. Incluso si supuestamente dice que es de, digamos, una gran organización de noticias, eso podría ser obviamente sintético y inventado.
Entonces esas dos cosas que creo son críticas. La otra cosa es la legislación. Al remaining del día, no hay leyes que regulen lo que está sucediendo hoy en día con las redes sociales y los sitios world-wide-web. No son responsables del contenido que los usuarios publican allí, por lo que realmente no tienen un incentivo para tratar de eliminar este contenido sintético o incluso notar que es contenido sintético. Llegar a algún tipo de solución política es también la otra pieza del rompecabezas.
Karen Roby habló con Matt Price de ZeroFox sobre las falsificaciones profundas y su posible efecto en las elecciones.
