En un reciente giro inquietante en el mundo de la vigilancia y la tecnología de inteligencia artificial (IA), miles de pasajeros del metro de Londres han sido observados y analizados sin su consentimiento durante al menos un año. Este análisis se ha realizado mediante sistemas de IA, que se alimentan de las cámaras de vigilancia instaladas en varias estaciones.
La tecnología de reconocimiento facial utilizada puede detectar el género, la edad y las emociones potenciales del usuario. La supuesta finalidad de esta recopilación de datos es utilizarla para diseñar un tipo de publicidad personalizada. Este avance alarmante en la tecnología de vigilancia ha sido desarrollado por la empresa mundialmente reconocida, Amazon.
La noticia fue revelada por la página de información tecnológica Wired, que tuvo acceso a los documentos obtenidos por la organización de defensa de los derechos y libertades civiles, Big Brother Watch. A través de una petición realizada bajo la Ley de Libertad de Información, la ONG pudo acceder a la documentación relacionada con los ensayos realizados, al menos desde abril de 2023, en ocho estaciones de la red suburbana de la capital británica.
Los ensayos se realizaron en estaciones clave como Euston, Waterloo y Manchester Piccadilly, bajo la supervisión de Network Rail, la empresa pública que gestiona y posee gran parte de la red ferroviaria del Reino Unido.
El propósito inicial del proyecto es desarrollar un sistema de detección de posibles accidentes, riesgos de seguridad o actos delictivos o de vandalismo. La tecnología implementada en las estaciones utiliza el reconocimiento de objetos detectados en las cámaras, a través de aprendizaje automático o machine learning, para alertar de situaciones de riesgo, como usuarios saltando a las vías, un exceso de viajeros en los andenes o comportamientos que alteren el orden.
Parte de la tecnología incluye sensores inalámbricos que pueden detectar suelos resbaladizos o posibles inundaciones. Sin embargo, lo que más preocupa a Big Brother Watch es que algunos elementos de los ensayos se centran en los «rasgos demográficos» de los pasajeros.
Según los documentos, las imágenes capturadas por las cámaras pueden producir un «análisis estadístico del rango de edad y de género» de los usuarios, así como «analizar algunas emociones» para detectar si están tristes, contentos o irritados.
La información se captura cuando los pasajeros cruzan una línea virtual situada justo antes de las barreras de entrada a las estaciones. Los datos se envían al sistema Rekognition de Amazon, diseñado para realizar análisis facial y de objetos. Este sistema puede medir el grado de «satisfacción» de los usuarios. Según la documentación revelada, «los datos podrían ser utilizados para potenciar al máximo la publicidad y las ventas minoristas».
Un portavoz de Network Rail ha asegurado que se toman «extremadamente en serio la seguridad de la red ferroviaria» y que utilizan una variedad de avances tecnológicos en todas sus estaciones para proteger a los pasajeros, a los empleados y a la infraestructura contra posibles amenazas o actos delictivos.
El sistema implementado en el metro londinense no utiliza la tecnología de reconocimiento facial más controvertida actualmente, aquella que vincula a los usuarios detectados con las identidades ya clasificadas en un almacenamiento de datos.
Este avance en la tecnología de vigilancia y reconocimiento facial plantea cuestiones importantes sobre la privacidad de los usuarios y el uso de sus datos. Las implicaciones de este tipo de tecnología, y su uso sin el consentimiento de los usuarios, seguramente seguirán siendo objeto de debate en el futuro.
