San Francisco revierte su system para robots asesinos



El 29 de noviembre, la Junta de Supervisores de San Francisco votó a favor de permitir que el Departamento de Policía de San Francisco (SFPD, por sus siglas en inglés) use robots armados para la fuerza letal, un mes después de que la protesta pública hizo que la policía de Oakland anulara una solicitud similar. Una semana después, la junta votó nuevamente, esta vez para negar explícitamente el permiso para la fuerza letal y enviar el proyecto de ley original nuevamente al comité. Muchas preguntas sobre el proyecto de ley unique siguen sin respuesta, pero una obvia es: si permitimos que las agencias civiles arme a los robots, ¿cómo nos protegemos contra el uso indebido, por parte de la policía, sí, pero también por parte de usuarios no autorizados?

Los investigadores de seguridad César Cerrudo y Lucas Apa abordaron esas preguntas como consultores de IOActive en 2017. Los problemas aún prevalecen en la actualidad, según Cerrudo, ahora investigador independiente de ciberseguridad.

«Como cualquier pieza de tecnología, los robots pueden ser pirateados puede ser fácil o extremadamente difícil, pero hay posibilidades», le dice a Dark Looking through. «Para reducir las posibilidades de piratería, la tecnología robótica debe construirse teniendo en cuenta la seguridad desde el principio y luego toda la tecnología robótica debe auditarse adecuadamente para identificar todas las vulnerabilidades potenciales y eliminarlas».

Las categorías de vulnerabilidades que Cerrudo y Apa descubrieron incluían comunicaciones inseguras, problemas de autenticación, autorización faltante, criptografía débil, problemas de privacidad, configuraciones predeterminadas inseguras y marcos de código abierto fáciles de probar.

Si bien los investigadores no probaron robots militares o policiales, es possible que tales máquinas sean igualmente vulnerables. «Estos robots son algunos de los más peligrosos cuando son pirateados, ya que a menudo se usan para manipular dispositivos y materiales peligrosos, como armas y explosivos», escribieron en el papel.

Un ejemplo de la escala del peligro es una falla en 2007 en un cañón antiaéreo automático en Sudáfrica que mató a nueve soldados e hirió a una docena más en un lapso de ,8 segundos. Ahora consider lo que sucedería si alguien volviera con éxito un robot policial armado hacia los oficiales o hacia el público.

La posibilidad de que los robots puedan ser pirateados no es tan descabellada. El año pasado, los hacktivistas obtuvieron acceso a una crimson de 150.000 cámaras de vigilancia, incluidas las que se encuentran dentro de las prisiones, al obtener la información de la cuenta de superadministrador. Los piratas informáticos tomaron con éxito el handle de un Jeep Cherokee que conducía por una carretera y tomaron el manage de otros automóviles a través de un truco de llavero que se ha generalizado. Incluso edificios enteros han sido pirateados.

Recuperando el permiso para matar

«Simplemente no siento que armar robots y darles licencia para matar nos hará más seguros», dijo el supervisor Eric Mar el 6 de diciembre antes de votar para enviar el proyecto de ley initial de vuelta al comité.

El 29 de noviembre, la junta votó 8-3 para aprobar el proyecto de ley que permite la fuerza letal el 6 de diciembre, la votación fue 8-3 para rescindirla. «Fue un paso raro», el San Francisco Chronicle reportado. «Los segundos votos de la junta sobre las leyes locales suelen ser formalidades que no cambian nada».

Lo que cambia las cosas en San Francisco es la protesta pública. «Todos hemos escuchado de muchos electores… sobre la notion de que nosotros, como ciudad, tendremos robots que entreguen fuerza letal», dijo el supervisor Dean Preston en la reunión del 6 de diciembre.

Tres de los supervisores, Shamann Walton (también presidente de la junta), Hillary Ronen y Preston, asistieron a una de esas protestas. en el ayuntamiento el lunes, organizado por los cuáquerosdonde una multitud sostenía pancartas que decían «no hay robots asesinos».

“Lucharemos por esto legislativamente en la junta, lo pelearemos en las calles y en la opinión pública, y si es necesario, lo pelearemos en la boleta electoral”, dijo Preston. Esa última amenaza podría haber sido la más persuasiva los votantes de la ciudad no tienen miedo de gobernar directamente a través de iniciativas electorales.

El SFPD tiene alrededor de una docena de robots comprados entre 2010 y 2017, el departamento dijo en un comunicado.

«Los robots son controlados y operados de forma remota por oficiales del SFPD que han recibido capacitación especializada», según el comunicado. «Nuestros robots se utilizan principalmente en situaciones de EOD/bomba, incidentes con materiales peligrosos y otros incidentes en los que los oficiales pueden necesitar mantener una distancia segura antes de asegurar una escena».

La declaración del SFPD continuó: «En circunstancias extremas, los robots podrían usarse para lanzar una carga explosiva para romper una estructura que contenga un sujeto violento o armado. La carga se usaría para incapacitar o desorientar a un sujeto violento, armado o peligroso que presenta un riesgo de pérdida de vida», aunque dicho uso «podría causar lesiones o ser letal».

Si bien la votación del 6 de diciembre fue un revés para el SFPD, el San Francisco Normal señaló que la cuestión no está necesariamente finalizada. El comité de reglas podría sentarse en él el tiempo suficiente para que la atención del público se desvanezca, o podrían idear un lenguaje que permita que la mayoría de los supervisores devuelvan su apoyo. Pero por ahora, los robots asesinos están explícitamente prohibidos y parece decidido.

No son los primeros policías robotizados

Los vehículos aéreos no tripulados (UAV) han sido parte de las tácticas militares durante medio siglo, y existen varios ejemplos de departamentos de policía que utilizan drones operados de forma remota. En 2015, Dakota del Norte drones armados legalizados con armas menos que letales como tasers. Por supuesto, Taser puede ser letaly los drones son notoriamente susceptible a la piratería.

Otro uso destacado de la policía de la robótica no tripulada fue el experimento Digidog fallido de la policía de Nueva York en 2020-2021, que envió robots Boston Dynamics controlados a distancia a situaciones peligrosas, tales como enfrentamientos y situaciones de rehenes, para minimizar el riesgo para el own. La reacción del público a los robots trepadores de rápidos movimientos arácnidos fue tan negativosin embargo, que el departamento rescindió el contrato antes de tiempo.

Los defensores de los equipos móviles no tripulados suelen basar la misión de la tecnología en salvar vidas, ya sea de rehenes o de policías. De hecho, la declaración del SFPD afirmaba que «los robots equipados de esta manera solo se usarían para salvar o prevenir más pérdidas de vidas inocentes». Ya hemos visto cómo se desarrolla eso en la vida actual.

Los robots policiales ya han matado

La policía estadounidense ya ha utilizado un robot para aplicar fuerza letal. La policía de Dallas envió un robot equipado con explosivos para matar a Micah Johnson en 2016, poniendo fin a un enfrentamiento después de que Johnson disparó a 12 oficiales de Dallas. matando a cinco. un gran jurado aclaró la policía de cualquier irregularidad en ese incidente, donde la policía usó la artimaña de enviarle un teléfono al tirador para que el robot se acercara lo suficiente. Algunos de la docena de robots existentes del SFPD tienen «ruedas robots de desactivación de bombas con brazos extendidos similares a los que usaron los oficiales de Dallas en 2016″, según el Washington Write-up.

Después del uso de la fuerza en Dallas en 2016, la profesora de derecho de UC Davis, Elizabeth E. Joh escribió en el New York Instances: «Y un robot se diferencia de un arma en que un arma puede fallar, pero no puede ser pirateada. El mercado de robots policiales está surgiendo, pero nosotros como sociedad, y eso incluye a la policía, deberíamos tenga cuidado con cualquier robot policial armado que sea susceptible a la toma de regulate por parte de terceros. La experiencia con la seguridad de los dispositivos electrónicos no inspira confianza: si los terceros pueden piratear automóviles o drones de juguete, ciertamente pueden piratear robots policiales».

La evaluación de Cerrudo se alinea con esa advertencia.

«Si tuviera que implementar estos robots, me aseguraría de que se construyeron teniendo en cuenta la seguridad y que los expertos los auditaron adecuadamente», dice. «No hacer esto es exponer a los robots a posibles ataques cibernéticos que podrían convertir a un robotic en un arma peligrosa».



Enlace a la noticia primary