Se ha desvelado que en el metro de Londres se ha utilizado una IA que predecía hasta las emociones de los pasajeros. Discurrimos sobre sus peligros.

La sigilosa IA de Amazon escondida en las grietas del metro de Londres

pablo.blanco
26/06/2024

Hace un par de días se filtró un dato que hizo que muchos londinenses fruncieron el ceño: se había instalado una IA en las cámaras del metro de Londres que predice la edad, el sexo y las emociones de los pasajeros. En concreto, ha sido un grupo volcado en las libertades civiles llamado Big Brother Watched el que ha desvelado este dato. 

Además, ha señalado que este software de inteligencia artificial lo ha desarrollado Amazon y que lleva, nada más y nada menos, que dos años en funcionamiento sin el consentimiento de la sociedad inglesa.

Un experimento de IA en el metro de Londres con exitoso resultado

Esta no es la primera vez que se confirma que se han empleado extensivamente sistemas de inteligencia artificial en el metro de Londres, aunque siempre con el pretexto de la seguridad y la vigilancia. 

Dicho experimento comenzó en octubre de 2022 y concluyó en septiembre del año siguiente. Consistía en instalar una IA en las cámaras CCTV para detectar impagos de billetes. Lo interesante es que no solo destacó en esta tarea, sino que la IA demostró ser capaz de mucho más.

Aparte de identificar con suma precisión a los pasajeros sin billete, también acertó a detectar pasajeros que caían a las vías del tren o que se colocaban peligrosamente cerca del borde del andén. También notificaba al personal de seguridad sobre pasajeros que llevaban demasiado tiempo sentados o que parecían haberse perdido.

¿Cómo funciona la IA del metro de Londres?

Los sistemas de inteligencia artificial (IA) en vídeo que se utilizan en el metro de Londres funcionan mediante una combinación de técnicas avanzadas de procesamiento de imágenes y algoritmos de aprendizaje automático, a saber:

  • Captura y preprocesamiento de imágenes: Las cámaras de CCTV instaladas en la estación graban continuamente imágenes en tiempo real que se preprocesan para mejorar su calidad y eliminar cualquier ruido que pueda impedir su correcto procesamiento en el sistema de IA.

  • Detección de objetos y personas: A partir de una serie de redes neuronales convolucionales (CNN) entrenadas con ingentes cantidades de datos, la IA es capaz de identificar y clasificar objetos y personas dentro del vídeo.

  • Seguimiento de objetos: Una vez detectados, la IA monitoriza y realiza un seguimiento pertinaz de los objetos y personas previamente detectados.

  • Análisis de comportamiento: La IA analiza los patrones de comportamiento para identificar situaciones inusuales o peligrosas, como períodos prolongados de letargo, caídas, desmayos, robos, etc.

  • Generación de alertas: Cuando la IA detecta un comportamiento que coincide con los escenarios predefinidos (como la evasión de tarifa, una caída, o alguien en peligro), notifica instantáneamente al personal pertinente del metro.

La IA no se queda ahí; analiza las emociones de los pasajeros

Lo realmente novedoso y chocante del desarrollo de la IA dentro del sistema ferroviario es que ha pasado también a interpretar y clasificar las emociones de cada uno de sus pasajeros según su comportamiento y expresiones faciales.

Una vez que las cámaras capturan las imágenes, los algoritmos de reconocimiento de imágenes localizan y guardan fotogramas de las caras de los pasajeros de los vídeos. Posteriormente, la IA utiliza modelos avanzados de análisis de emociones, que son redes neuronales profundas entrenadas con enormes volúmenes de datos de expresiones faciales etiquetadas con diferentes emociones. 

Estos modelos descomponen las expresiones faciales en una serie de indicios que asignan a cada emoción. Es así como la IA de Amazon que se ha instalado en el metro de Londres interpreta si un pasajero está feliz, triste, enfadado, temeroso, sorprendido o disgustado.

El problema de la IA, las grandes tecnológicas y la privacidad

La inesperada noticia, al contrario que suscitar asombro o curiosidad, ha generado cierta reticencia y ha encendido más de una alarma. Tengamos en cuenta que, a lo largo de dos años, ningún pasajero ha sido consciente de que había una IA grabándolo e inspeccionando todas sus acciones para después analizarlas. 

Ni Amazon ni Network Rail, la empresa propietaria de la red ferroviaria británica, se han molestado en anunciar públicamente el uso de este sistema de inteligencia artificial capaz de inferir las emociones más recónditas de los pasajeros.

El uso de esta tecnología podría parecer inocua a primera vista. Sin embargo, hemos de proyectarnos en los peores escenarios y saber que esta tecnología también puede utilizarse de forma ilícita y con fines poco éticos. 

De desarrollarse la IA por estas vías junto a la seguridad biométrica y el reconocimiento facial, tendríamos mucho menos control sobre nuestra vida privada como individuos, lo que podría suponer una afrente potencial a las libertades civiles. Este, de hecho, es uno de los dilemas éticos de la inteligencia artificial.

Por el momento, ninguna persona física o jurídica se ha visto sancionada y Amazon se ha abstenido de hacer declaración alguna al respecto.

Artículos relacionados

Suno AI es un generador de música a partir de texto que puede crear canciones increíbles. ¡Te enseñamos a utilizarlo!
pablo.blanco

¡Aprende a crear canciones en un clic con Suno AI!

07/05/2024

Desde 2022 la inteligencia artificial generativa ha evolucionado a una velocidad vertiginosa con avances que todavía nos cuesta procesar.

A finales de junio, Google anunció que eliminaría el scroll infinito de las páginas de resultados de búsqueda en versión de escritorio.
pablo.blanco

Google elimina el scroll infinito: estas son sus razones

05/07/2024

A finales de junio, Google anunció que eliminaría el scroll infinito de las páginas de resultados de búsqueda en versión de escritorio y adelantó que en un par de meses e

¿Qué comprende la transformación digital?, ¿qué aporta a la empresa?, ¿es una moda? En este artículo te contamos cómo están implementándola las empresas.
pablo.blanco

Transformación digital: qué es y cómo se implementa

13/11/2023

Si estás inmerso en el ambiente corporativo o tecnológico, habrás oído incontables veces sobre el imperativo categórico de la digitalización digital que todas las em