Una pausa para abordar la &#39deuda ética&#39 del tratamiento facial …



El uso ético requerirá una combinación de informes, regulación, responsabilidad corporativa y tecnología contradictoria consistentes.

A principios de este verano, el Comité de Política Tecnológica de EE. UU. De la Asociación de Maquinaria de Computación publicó un letra pidiendo la suspensión del «uso privado y gubernamental true y futuro de tecnologías (de reconocimiento facial) en todas las circunstancias conocidas o razonablemente previsibles que sean perjudiciales para los derechos humanos y legales establecidos».

La ACM argumenta que el reconocimiento facial no es lo suficientemente maduro para ser utilizado bien, su potencial ha impulsado la presunta adopción de la tecnología y que su uso ha comprometido la privacidad y otros derechos humanos. También creen que su uso debe detenerse hasta que se cumplan los estándares legales. para la precisión, la transparencia, la gobernanza, la gestión de riesgos y la responsabilidad se pueden establecer.

Esta carta sigue las acciones de grandes empresas, que han restringido o detenido el acceso al reconocimiento facial. En junio, IBM anunció que dejaría de vender software package de reconocimiento facial «de propósito general», y Amazon y Microsoft pronto anunciaron prohibiciones sobre la venta de tecnología de reconocimiento facial a las fuerzas del orden hasta que se apruebe una legislación que regule la tecnología. Los titulares recientes han demostrado cómo los sistemas de reconocimiento facial están perpetuando el sesgo en la aplicación de la ley, la contratación y la vigilancia escolar. La industria tiene razón en detener el desarrollo de esta tecnología mientras reflexiona sobre los posibles efectos secundarios y desarrolla un enfoque ético para el reconocimiento facial.

Enjabonar, enjuagar, repetir: con un toque
La tecnología y la ética son a menudo fuerzas opuestas. Este llamado a una deliberación cuidadosa es comparable a las discusiones éticas anteriores sobre los modelos de aprendizaje automático. La carta cita la declaración anterior de ACM sobre transparencia algorítmica y responsabilidad como foundation para esta última ronda de exploración ética. Conceptos como la transparencia y la rendición de cuentas son comunes en los marcos éticos, pero históricamente no han llevado a un llamado a una pausa en el acceso a la tecnología.

Muchas tecnologías son difíciles de entender o sus impactos son difíciles de medir. Con el reconocimiento facial, ocurre lo contrario. La cobertura de noticias en los últimos años ha llevado al público a comprender cómo funciona el reconocimiento facial y a ver su perpetuación de los prejuicios culturales y la discriminación (ver TEDTalk de Joy Buolamwini y el Liga de la justicia algorítmica para más detalles). Las personas se dan cuenta rápidamente de los peligros de la vigilancia ubicua, incluso si no son el objetivo de la discriminación activa (¡Gracias, George Orwell!). Esta comprensión de la tecnología y los riesgos significa que el reconocimiento facial está viviendo un momento único una cesura en la prisa por innovar, una pausa única para la introspección ethical.

Admirable, pero quedan dudas
Esta pausa es necesaria. Con demasiada frecuencia, la ética va por detrás de la tecnología. Con todas las disculpas a Jeff Goldblum, no hay necesidad de ser cazado por dinosaurios inteligentes para darse cuenta de que a menudo hacemos las cosas porque «podemos en lugar de lo que deberíamos». El llamado a la moderación de este ACM es apropiado, aunque quedan algunos problemas.

¿Qué pasa con los datos faciales que ya existen de los sistemas implementados actualmente? Esto no es exclusivo del reconocimiento facial, sino más bien conocido por el cumplimiento de GDPR y otros casos de uso.

El paro está destinado a entidades públicas y privadas, pero las cámaras personales, y una apertura para el reconocimiento facial, se están volviendo ubicuas rápidamente. Inicie sesión en el programa de vigilancia de su vecindario para ver un ejemplo cercano a su hogar. (¿Qué calle no tiene cámara de timbre?) Se monitorea la vida pública y se recopilan continuamente datos pasivos sobre nuestros hábitos y vidas En cualquier lugar donde haya una cámara, la tecnología de reconocimiento facial está en juego.

El llamado de la ACM podría ser más fuerte. Instan a la suspensión inmediata del uso de la tecnología de reconocimiento facial en cualquier lugar «conocido o razonablemente previsible que sea perjudicial para los derechos humanos y legales establecidos «. ¿Qué se considera razonable aquí? ¿Es suficiente la buena intención para absolver de culpa, por ejemplo, el mal uso de estos sistemas? El daño potencial de estos sistemas, y la reutilización de sus datos, a menudo no es evidente. Para cuando se observa el sesgo, el daño ya está hecho. Dados los riesgos y la incertidumbre involucrados, sería mejor eliminar la dependencia de la llamada del daño esperado. El uso del reconocimiento facial debe suspenderse hasta que su impacto ético pueda documentarse y gobernarse adecuadamente.

Respuesta del gobierno
Los gobiernos han tomado nota de la preocupación pública, por supuesto, y han respondido con una propuesta de ley. Varias ciudades de Estados Unidos, incluidas Bostón, Portland y San Francisco, han prohibido el uso de la tecnología. (Ver: Mapa de uso de EE. UU. Y prohibiciones del reconocimiento facial.)

También hay acción a nivel nacional. La legislación propuesta actualmente en los EE. UU. Busca regir o declarar una moratoria sobre la tecnología de reconocimiento facial. En Europa, el año pasado se propuso una pausa de cinco años sobre el uso del reconocimiento facial en espacios públicos, pero fue posteriormente cayó el pasado mes de enero. Estos esfuerzos son bienvenidos, pero si la ética va por detrás de la tecnología, la legislación es aún más lenta.

Tecnología Adversarial
Otro enfoque también puede ser útil. Recientemente, los investigadores han desarrollado «tecnología contradictoria», utilizando la innovación para equipar a las personas para vencer el rastreo de ubicación, la inteligencia synthetic y otros componentes de los sistemas de vigilancia. Estos han abarcado toda la gama desde el uso moda para derrotar a los sistemas de cámaras por completo Fabricación de identidades y personas falsas para deshacerse de la ubicación y el seguimiento en línea.

Esta El enfoque adversarial ahora se ha desarrollado para el reconocimiento facial también., siendo el más notable Fawkes, una herramienta de código abierto lanzada por investigadores de la Universidad de Chicago. En lugar de realizar cambios físicos en el rostro de una persona, busca enmascarar fotografías con ligeras alteraciones. Aunque estos cambios no son prominentes para el ojo humano, esto engaña al sistema de reconocimiento facial para que identifique erróneamente a la persona, encubriendo la verdadera identidad del individuo. Con el tiempo, un conjunto creciente de fotografías alteradas se incorpora a la colección de imágenes que los sistemas de reconocimiento facial utilizan para catalogar e identificar a las personas, contaminando su foundation de conocimientos y protegiendo la verdadera identidad del individuo.

Una pausa para reflexionar
La ACM tiene razón al pedir una suspensión en el uso del reconocimiento facial para abordar el sesgo y el abuso, pero nuestro camino hacia el uso ético de este tipo de tecnología probablemente no sea una línea recta y clara. Es necesaria una combinación de enfoques para lograr un progreso responsable La presentación de informes consistentes sobre tecnología de vigilancia, regulación gubernamental, sentido de responsabilidad corporativa y tecnología contradictoria tienen un papel que desempeñar. Estos enfoques llevan tiempo, y el ACM tiene razón al pedir un descanso para permitir que estos enfoques tengan tiempo para desarrollarse.

Es hora de abordar nuestra deuda ética.

Mike Kiser es un profesional de la seguridad con 20 años de experiencia. Ha diseñado, dirigido y asesorado sobre implementaciones de seguridad a gran escala para una clientela world-wide. Recientemente se presentó en RSA Conference, Black Hat y DEF CON. Mike copresenta el podcast, Mistaken Id, … Ver biografía completa

Lectura recomendada:

Más información





Enlace a la noticia authentic