Tesla y otros autos con piloto automático engañados con proyecciones 2D

Un equipo de académicos dice que puede engañar a los automóviles inteligentes modernos que conducen en modo piloto automático y hacer que tomen acciones no deseadas, como frenar o cambiar de dirección, simplemente proyectando imágenes 2D en la carretera, en la superficie de la carretera o incrustando ciertos «disparadores» «en carteleras de video clip dentro.

Esta nueva investigación, publicada la semana pasada, estudió cómo los sistemas avanzados de asistencia a la conducción (ADAS) y las tecnologías de piloto automático reaccionan a los objetos 2D (también conocidos como objetos sin profundidad o fantasmas) que se proyectan en el camino de un automóvil en movimiento y los sensores de su piloto automático.

Para su investigación, titulada «Phantom of the ADAS: ataques fantasmas en sistemas de asistencia a la conducción«(PDF), los investigadores estudiaron solo dos tecnologías: el Mobileye 630 Professional (utilizado en automóviles Honda, Mazda y Renault) y el sistema de piloto automático Tesla Model X HW 2.5.

Los investigadores encontraron varios escenarios en los que estos sistemas reconocerían las proyecciones 2D como elementos relacionados con el tráfico, en lugar de lo que eran: proyecciones.

Por ejemplo, los automóviles reconocerían las proyecciones en 2D de los seres humanos proyectados en una carretera, y el piloto automático tomaría el descanso para reducir la velocidad o detener el vehículo.

El mismo truco también funcionaría con la proyección de un automóvil.

En otro caso, el equipo de investigación proyectó nuevas líneas en la carretera, engañando al automóvil para que pensara que necesitaba girar y ajustar los carriles, un truco que podría hacer que los automóviles ingresen a los carriles cercanos y ponga en riesgo la vida de los pasajeros.

Pero el truco funcionó más allá de proyectar objetos 2D en el camino. Por ejemplo, proyectar imágenes de señales de tráfico en las superficies de las carreteras, como paredes o árboles, funcionó igual de bien, y los sistemas de piloto automático probados no podían distinguir la diferencia entre las proyecciones y las señales de tráfico reales.

Además, los objetos 2D no siempre necesitan ser proyectados. El equipo de investigación dice que incrustar un objeto 2D plano dentro de cualquier otro medio funciona bien, como un anuncio de video que se reproduce en una cartelera. En su experimento, incrustaron una señal de tráfico dentro de un anuncio publicitario, engañando al automóvil que estaba en una zona de mayor velocidad.

Los investigadores dicen que los objetos se pueden proyectar de varias maneras, usando proyectores baratos de $ 300 que puedes comprar en Amazon. Estos proyectores pueden ser portátiles o instalarse en drones voladores.

Además, el equipo de investigación dice que proyectar objetos 2D deshonestos no necesariamente significa que las proyecciones deben ser visibles durante largos períodos de tiempo. Unos pocos cientos de milisegundos son suficientes, dijeron.

Las proyecciones de ráfagas cortas serían invisibles para el ojo humano, pero aún serían visibles y captadas por los potentes sensores y cámaras de video clip utilizados por ADAS y los sistemas de piloto automático.

Esto abre la puerta a escenarios del mundo actual en los que los conductores humanos ni siquiera detectarían las proyecciones, pero el automóvil se rompería repentinamente o se dirigiría hacia el tráfico que se aproxima.

Esta es una observación importante porque la mayoría de los fabricantes de automóviles aconsejan a los conductores que usen los pilotos automáticos solo bajo supervisión directa. Los vendedores de automóviles dicen que los sistemas deben usarse para ayudar a los conductores mientras conducen, pero las manos siempre deben mantenerse en el volante y los ojos en la carretera. Dado que las proyecciones pueden mostrarse frente a un automóvil durante unos pocos milisegundos, los conductores que no cumplan con estas reglas no podrán reaccionar a tiempo.

El equipo de investigación dijo que notificó tanto a Mobileye como a Tesla sobre sus hallazgos, pero los fabricantes de automóviles aún no han realizado mejoras en sus sistemas. Una razón es que no hay forma de que el computer software pueda detectar la diferencia entre una señal de tráfico proyectada en las hojas de un árbol y una señal de tráfico legítima atada a un árbol (o pared), donde se espera encontrar algunas señales de tráfico. Lo mismo se aplica para distinguir las proyecciones de las marcas viales de las líneas viales legítimas.

Sin embargo, los sistemas de piloto automático deberían poder distinguir entre las proyecciones de humanos y automóviles de las reales. En este caso, la forma de avanzar es que el piloto automático y otros sistemas ADAS obtienen soporte para reconocer objetos 2D sin profundidad, de forma very similar a cómo algunos sistemas de reconocimiento facial pueden detectar fotos de un rostro humano y evitar una autenticación exitosa.