Los asesores de inteligencia artificial del Reino Unido exigen que las plataformas en línea se hagan responsables de la orientación del contenido del usuario


Redes sociales: ¿eliminar sus cuentas puede protegerlo de los piratas informáticos?
El informe de PwC encuentra que los ataques cibernéticos son la mayor preocupación para las empresas, hasta el punto de que algunos CEO están eliminando cuentas de redes sociales para ayudar a evitar ser víctimas personales de delincuentes.

Las plataformas en línea y las redes sociales, incluidas Google, Fb y YouTube, deben cumplir estándares de transparencia y responsabilidad más estrictos cuando se trata de dirigir el contenido a los usuarios, dicen los asesores del Reino Unido.

El Centro de Ética e Innovación de Datos (CDEI) es un órgano asesor establecido bajo el Departamento de Digital, Cultura, Medios y Deporte para proporcionar asesoramiento y recomendaciones independientes sobre cuestiones emergentes basadas en datos, incluidas las tecnologías de IA, deepfakes, vigilancia e Web de las cosas (IoT).

El martes, CDEI publicó un informe y conjunto de recomendaciones (.PDF) sobre orientación de contenido: el uso de datos de usuario, patrones y actividad en publicidad dirigida, así como para recomendar contenido patrocinado, como imágenes, publicaciones y video clips, en plataformas en línea.

La IA ha entrado en la refriega como el medio para crear algoritmos basados ​​en aprendizaje automático (ML) que recopilan y analizan nuestros comportamientos, interacciones, gustos y disgustos, búsquedas y conexiones que pueden usarse para influir en lo que vemos a través de nuestras experiencias en línea.

Ver también: Los CEO están eliminando sus cuentas de redes sociales para protegerse contra los piratas informáticos

Después de consultar con expertos de la industria, realizar entrevistas, comunicarse con ocho reguladores, una serie de compromisos públicos y lanzar convocatorias abiertas de evidencia, el informe closing del órgano asesor sugirió que la personalización puede aumentar la usabilidad de Net, mejorar la navegación y es un motor de «valor económico» para los modelos de negocio empleados por algunas de las empresas más grandes del mundo.

Los servicios personalizados también pueden ayudar a los usuarios a mejorar sus propias vidas a través del monitoreo de actividad física y actividad, asistencia financiera y regulate, y existe un «potencial significativo» para la innovación en el sector, según el CDEI.

Se espera que la focalización impulsada por la IA continúe desarrollándose y expandiéndose en el futuro, pero ahí radica el riesgo, ya que el CDEI dice que los sistemas de focalización en línea se implementan con demasiada frecuencia sin transparencia ni responsabilidad, quedando por debajo de la central humana. Principios de IA creados por la OCDE, de los cuales el Reino Unido se ha suscrito.

«La focalización en línea ha ayudado a poner a un puñado de negocios de plataformas en línea globales en posiciones de enorme poder para predecir e influir en el comportamiento», dice el informe. «Sin embargo, los mecanismos actuales para responsabilizarlos son inadecuados».

El cuerpo asesor también planteó el tema del daño causado por las recomendaciones de contenido basadas en datos tales como la explotación de vulnerabilidades humanas, prejuicios y discriminación.

CNET: Ancestry dice que la policía solicitó acceso a su foundation de datos de ADN

El CDEI ha hecho una serie de recomendaciones para que las plataformas y servicios en línea sean más responsables en función de sus hallazgos.

El primero es la regulación sistémica cuando se incluyen contenidos recomendados como publicaciones, movies y anuncios pero en lugar de restricciones o leyes específicas, CDEI ha sugerido la creación de un marco regulatorio que «promueva la responsabilidad y la transparencia y (para) salvaguardar los derechos humanos por diseño».

CDEI también ha propuesto la reforma de cómo los usuarios pueden controlar cómo se personalizan sus experiencias en línea, al mismo tiempo que mantienen los derechos a la libre expresión, y la creación de archivos públicos en línea de anuncios de «alto riesgo», como anuncios políticos y productos con restricción de edad. con fines de recopilación de información.

También se han sugerido nuevos poderes para permitir a los investigadores independientes el acceso seguro a sus datos para construir una base de evidencia sobre temas de interés público, como el cumplimiento de la protección de datos, el sesgo de AI y las tendencias de noticias falsas.

TechRepublic: Torneo de suplantación de identidad descubre que los empleados son víctimas de correos electrónicos maliciosos

Se debe establecer un nuevo regulador propuesto para daños en línea, dice CDEI, y debe trabajar con la Oficina del Comisionado de Información (ICO) del Reino Unido y la Autoridad de Competencia y Mercados (CMA) para trabajar con plataformas en línea para mantener los estándares de transparencia y responsabilidad.

«La mayoría de la gente no quiere que se detenga la focalización», dijo el CDEI. «Pero sí quieren saber que se está haciendo de manera segura y ética. Y quieren más command».

El gobierno del Reino Unido tendrá que responder a las recomendaciones del CDEI dentro de los seis meses posteriores al informe.

Cobertura previa y relacionada


¿Tienes una propina? Póngase en contacto de forma segura a través de WhatsApp | Señal en +447713 025 499, o más en Keybase: charlie0




Enlace a la noticia authentic