Ciberseguridad e Inteligencia Artificial (IA): una vista desde la ventana trasera de la UE, Parte II


En la Parte I de este web site, discutimos el discussion sobre la IA: qué es, si existe y en qué medida juega un papel en nuestra vida cotidiana. En la Parte II, nos enfocamos en el futuro y en cómo la IA debe desarrollarse deliberada y cuidadosamente para proporcionar el mayor beneficio a la humanidad.

Un desafío estratégico, económico y político.

No hay absolutamente ninguna duda de que la IA es un problema estratégico, económico y político. El 12 de febrero de 2019, el Parlamento Europeo adoptó una política industrial europea integral sobre IA y robótica. La moción señala que la IA promueve la innovación, la productividad, el crecimiento económico y la competitividad remodela múltiples sectores industriales y puede ayudar a abordar desafíos globales como la salud o el medio ambiente. El objetivo del Parlamento es facilitar el desarrollo de tecnologías de IA mediante la implementación de un mercado único europeo para la IA y eliminar las barreras para el despliegue de la IA, incluso a través del principio de reconocimiento mutuo con respecto al uso transfronterizo de productos inteligentes. Claramente, el objetivo es permitir que la Unión Europea compita con las inversiones masivas realizadas por terceros, especialmente los Estados Unidos y China.

Además de esto, recomienda crear una Agencia Reguladora Europea para la IA y la toma de decisiones algorítmicas.

Una fuerte iniciativa para integrar la ética en la IA

La moción destaca la importancia de implementar una «IA confiable» junto con principios éticos para permitir una competitividad responsable, ya que generará confianza en los usuarios y facilitará una adopción más amplia de la IA. El Parlamento cree que la Unión Europea debe desempeñar un «papel de liderazgo en el escenario internacional» al establecerse como líder de una IA ética, segura y avanzada.

La razón por la cual actores principales Para que la ética se integre en la inteligencia artificial es necesario garantizar, desde la etapa de diseño, la transparencia y la explicabilidad de los algoritmos, a fin de evitar cualquier discriminación relacionada con la toma de decisiones automatizada. El artículo 22 del Reglamento de la UE 2016/679 («GDPR») hace eco de esta preocupación: «El interesado tendrá derecho a no estar sujeto a una decisión basada únicamente en el procesamiento automatizado, incluida la elaboración de perfiles, que deliver efectos legales sobre él o que lo afecta de manera comparable.. «

La IA debe diseñarse como una herramienta que ayuda y está controlada por humanos alineados con derechos fundamentales como la dignidad, la autonomía, la autodeterminación y la no discriminación. La Comisión Europea publicó un proyecto de directrices sobre ética en el campo de AI el 18 de diciembre de 2018.

Un marco lawful para la IA

The Movement enfatiza la necesidad de desarrollar un entorno regulatorio estratégico para IA y robótica que fomente tanto la innovación tecnológica como una fuerte protección del usuario. El Parlamento se refiere a la ambición de Europa de ser un pionero en esta área, de ahí la importancia de «reevaluar regularmente la legislación existente para garantizar que sea apropiada para su objetivo en lo que respecta a Europa».

La primera cuestión planteada por el Parlamento es la necesidad de combinar el GDPR con el desarrollo de la IA. La clave para desarrollar IA es la confianza de sus usuarios, y los usuarios no pueden confiar si sus datos personales no están fuertemente protegidos. El Parlamento de la UE argumenta que «el establecimiento de un ecosistema de confianza en el desarrollo de tecnologías de IA debe basarse en un marco de procesamiento de datos apropiado», lo que implica el pleno respeto del marco lawful de la UE en relación con la protección de datos personales, es decir, RGPD.

La resolución también destaca la falta de disposiciones específicas sobre responsabilidad y propiedad intelectual, lo que socava la seguridad jurídica. La responsabilidad en el campo de la IA sigue siendo claramente un área gris.

¿Qué pasa con la IA en el campo de la ciberseguridad?

El Parlamento Europeo destaca que «la IA puede ser una amenaza para la ciberseguridad y la herramienta principal contra los ciberataques». Es necesario garantizar la integridad de los datos y los algoritmos en los que se basa la IA, incluidas las «verificaciones de seguridad del producto Las autoridades de vigilancia del mercado y las normas de protección del consumidor que implementan el lugar, con los estándares mínimos de seguridad apropiados ”. Simultáneamente, la Moción reconoce que“ el despliegue de soluciones que integran IA para fines de seguridad cibernética permitirá predecir amenazas, prevenirlas y mitigarlas ”.

El Parlamento subraya nuevamente la importancia de desarrollar su propia independencia de ciberseguridad desarrollando «su propia infraestructura, centros de datos y sistemas de computación en la nube y sus propios componentes informáticos». Algunos incluso lo ven como un elemento fundador de Soberanía numérica europea.

En última instancia, la IA puede convertirse en la próxima gran tendencia de privacidad. Así como los grandes datos convirtieron a cada compañía en una compañía de datos, muchos creen que la nueva era de la IA transformará a cada compañía en una compañía de IA. Al pensar en la IA, lo primero que se le ocurre a la gente son los vehículos autónomos y los robots inteligentes, pero las implicaciones legales y de privacidad son mucho más amplias, lo que puede afectar a todas las industrias, desde los bienes de consumo hasta la atención médica y los servicios financieros, sin olvidar, por supuesto. , la seguridad cibernética.

Apuesto a que lo siguiente que sepa es que tendremos una posición oficial de la Comisión de la UE sobre el interés legítimo de procesar datos personales por el bien de la IA en el campo de la ciberseguridad. Y es de esperar que la ética, reconocida a nivel internacional, proporcione los límites necesarios para un uso seguro y transparente de la IA.





Enlace a la noticia initial