Uso de IA para escalar el spear phishing


Uso de IA para escalar el spear phishing

El problema con el spear phishing es que se necesita tiempo y creatividad para crear correos electrónicos de phishing atractivos e individualizados. Los investigadores son usando GPT-3 para intentar solucionar ese problema:

Los investigadores utilizaron la plataforma GPT-3 de OpenAI junto con otros productos de inteligencia artificial como servicio centrados en el análisis de la personalidad para generar correos electrónicos de phishing adaptados a los antecedentes y rasgos de sus colegas. El aprendizaje automático centrado en el análisis de la personalidad tiene como objetivo predecir las inclinaciones y la mentalidad de una persona en función de las entradas de comportamiento. Al ejecutar los resultados a través de múltiples servicios, los investigadores pudieron desarrollar una canalización que preparó y refinó los correos electrónicos antes de enviarlos. Dicen que los resultados sonaron «extrañamente humanos» y que las plataformas proporcionaron automáticamente detalles sorprendentes, como mencionar una ley de Singapur cuando se les instruyó para generar contenido para las personas que viven en Singapur.

Si bien quedaron impresionados por la calidad de los mensajes sintéticos y la cantidad de clics que obtuvieron de sus colegas en comparación con los compuestos por humanos, los investigadores señalan que el experimento fue solo un primer paso. El tamaño de la muestra fue relativamente pequeño y el grupo objetivo fue bastante homogéneo en términos de empleo y región geográfica. Además, tanto los mensajes generados por humanos como los generados por la canalización de IA como servicio fueron creados por personas de la oficina en lugar de atacantes externos que intentaban alcanzar el tono correcto desde lejos.

Es solo cuestión de tiempo antes de que esto sea realmente efectivo. Combínelo con la síntesis de voz y video clip, y tendrá algunos escenarios bastante aterradores. El riesgo real no es que los correos electrónicos de phishing generados por IA sean tan buenos como los generados por humanos, sino que pueden generarse a una escala mucho mayor.

Defcon presentación y diapositivas. Otra noticia artículo

Publicado el 13 de agosto de 2021 a las 6:16 h. •
3 comentarios

Foto de la barra lateral de Bruce Schneier por Joe MacInnis.



Enlace a la noticia initial