El software de reconocimiento de mascarilla está aquí, para bien o para mal
Los nuevos algoritmos pueden determinar si las personas cumplen con las normas de salud pública. Esta práctica plantea dudas sobre la privacidad y la protección de datos.
El software de Tryolabs tiene dos componentes principales: los algoritmos de «pose» descifran partes diferentes del cuerpo y después los algoritmos de «clasificación» deciden si la región facial incluye una mascarilla.
Las humillaciones públicas por no llevar mascarilla empezaron casi al mismo tiempo que la propia pandemia de COVID-19. En febrero, el uso de mascarillas en público pasó a ser obligatorio en algunas provincias y municipios de China. Enseguida aparecieron noticias de residentes y agentes de policía que regañaban a los infractores, una tendencia que se ha hecho global.
Cuando Akash Takyar oyó hablar de esas primeras historias en China, le sorprendió cómo se había gestionado la situación y se preguntó su empresa de software —LeewayHertz— podría ofrecer una vía más pacífica. Takyar reconoció lo importante que es llevar mascarilla para ralentizar la propagación del SARS-CoV-2, el virus que provoca la COVID-19. Pero en lugar de hacer que los miembros del público se vigilen los unos a los otros, quería desarrollar un programa informático que pudiera analizar imágenes y detectar si la gente lleva mascarilla.
Su empresa, con sede en San Francisco, es una de las muchas pioneras del reconocimiento de mascarilla como vía para hacer que la gente cumpla las normas de uso obligatorio por el bien común. Hasta ahora, las mascarillas habían confundido al software tradicional de reconocimiento facial, pero estas nuevas herramientas de aprendizaje automático podrían utilizarse en espacios públicos o privados para medir el cumplimiento y, supuestamente, para que esa vigilancia deje de estar en las manos de los particulares.
El software de Tryolabs identifica si las caras visibles están descubiertas o llevan mascarilla cuando pasan por una cámara de circuito cerrado de televisión (CCTV, por sus siglas en inglés) cerca del Temple Bar, en Dublín, Irlanda. Imágenes de CCTV tomadas por EarthCam; análisis por cortesía de Tryolabs.
Examinar imágenes de CCTV con reconocimiento de mascarilla podría darnos una idea de cuánta gente cumple la norma de salud pública en una zona en particular, como el barrio neoyorquino de Little Italy. Imágenes de CCTV tomadas por EarthCam; análisis por cortesía de Tryolabs.
Por ejemplo, en Estados Unidos el uso de mascarilla es obligatorio en espacios públicos, tanto al aire libre como en interiores, en 34 estados y el Distrito de Columbia. Con todo, el cumplimiento de esta norma puede variar dependiendo de una serie de factores, desde la postura política personal a la capacidad financiera de un individuo de comprar mascarillas. En gran medida, las personas que desobedecen las normas aunque puedan permitirse seguirlas se salen con la suya. En Estados Unidos hay pocos casos conocidos —de Nevada, Luisiana e Indiana— que indiquen que la policía haya llegado a detener a gente que se encontraba dentro de negocios privados sin mascarilla.
En el caso de las empresas con empleados que regresan a instalaciones cerradas, el incumplimiento de esta norma puede hacer que otros trabajadores se contagien. Supondría una gran pérdida para una empresa que hubiera un brote porque alguien que era asintomático no llevaba mascarilla, señala Takyar.
Pero «los datos faciales son tan valiosos como una huella dactilar», afirma Deborah Raji, investigadora del AI Now Institute de la Universidad de Nueva York. Y quienes albergan dudas sobre el reconocimiento facial se preguntan si el software de reconocimiento de mascarilla, por bienintencionado que sea, debería ocupar un lugar en la sociedad actual.
Cómo escanear una mascarilla
El software de reconocimiento facial actual estudia los rasgos que rodean los ojos, la nariz, la boca y las orejas para identificar a una persona cuya foto ya ha sido suministrada, ya sea por la persona en cuestión o a través de una base de datos de delincuentes. La mascarilla obstruye este reconocimiento, un problema con el que ya se han topado muchos sistemas y que otros han resuelto. Por ejemplo, FaceID de Apple, que utiliza el reconocimiento facial para que los usuarios desbloqueen su iPhone, publicó hace poco una actualización del sistema que, en esencia, puede detectar si una persona lleva mascarilla. La actualización reconoce rápidamente una boca y nariz tapadas e insta al usuario a introducir su contraseña en lugar de hacer que se quite la mascarilla.
Los desarrolladores sostienen que, en teoría, el software de reconocimiento de mascarilla evita los problemas de privacidad porque los programas no identifican a la gente. Dicho software aprende a partir de dos conjuntos de imágenes: uno para enseñar al algoritmo a reconocer una cara («detección facial») y el otro para averiguar cómo reconocer una mascarilla en una cara («reconocimiento de mascarilla»). El algoritmo de aprendizaje automático no identifica los rostros de forma que pueda vincular una cara a una persona específica, ya que no utiliza parámetros de entrenamiento —un conjunto de ejemplos para formar a dichos programas— que incluyan caras vinculadas a identidades.
Los algoritmos de «pose» crean dibujos simples de las partes del cuerpo y sus posiciones con líneas de colores. Cuando se detecta la cabeza, el software recorta la imagen de la cara.
Los algoritmos de «clasificación» deciden si la imagen recortada de la cara contiene una mascarilla. Este proceso se repite en varias ocasiones durante una secuencia de vídeo y cada vez se añade un nuevo punto bajo los recuadros de las caras en el panel lateral. Los puntos son verdes, rojos o amarillos, que significan «mascarilla», «sin mascarilla» o «indeciso», respectivamente. El programa dirá «desconocido» si el rostro no se ve claramente (por ejemplo, si una persona mira en la dirección contraria a la cámara) o si no está seguro de que lleve mascarilla.
Las empresas que han desarrollado software de reconocimiento de mascarilla dicen que, en última instancia, quieren que esta tecnología se emplee en términos generales para ayudar a establecer políticas o mejorar las campañas de concienciación.
«Si podemos contar la cantidad [de personas que cumplen las normas sobre el uso de mascarilla], se podrán elaborar políticas y supervisar si necesita otra campaña para fomentar el uso de mascarilla», afirma Alan Descoins, director tecnológico de Tryolabs, una empresa con sede en Montevideo, Uruguay, que ha desarrollado software de reconocimiento de mascarilla. «O si la gente empieza a aburrirse de la COVID y empieza a no llevar mascarilla, entonces quizá se necesite más publicidad para concienciar».
El algoritmo de LeewayHertz, por ejemplo, podría utilizarse en tiempo real e integrarse con cámaras de circuito cerrado de televisión (CCTV, por sus siglas en inglés). Aísla las imágenes de un fotograma cualquiera de un vídeo y las clasifica en dos categorías: personas con mascarilla y personas sin mascarilla. Actualmente, este software de reconocimiento se emplea en «modo oculto» en varios lugares de Estados Unidos y Europa. Restaurantes y hoteles lo utilizan para garantizar que los empleados lleven mascarilla. Un aeropuerto de la costa este de Estados Unidos también ha probado la tecnología, indica Takyar.
Estas empresas privadas controlarían estos datos y su aplicación. Los grandes almacenes podrían utilizarlos para repartir mascarillas a los clientes que incumplan el uso obligatorio, por ejemplo, o una empresa podría despedir a un empleado que se niegue a llevar mascarilla en el lugar de trabajo.
Aunque Takyar ve motivos sólidos para emplear el software de reconocimiento de mascarilla en espacios privados, el uso público podría ser más difícil: «Si estás en Times Square y no hay distanciamiento social, ¿qué haces con esos datos? ¿Querrías poner su foto en las pantallas publicitarias?».
Las brechas de las buenas intenciones
James Lewis reconoce la utilidad del reconocimiento de mascarilla para mantener el cumplimiento durante la pandemia. En cambio, como director del Programa de Políticas Tecnológicas para el Centro de Estudios Estratégicos e Internacionales de Washington D.C., le preocupa más la falta de normativas que rigen el uso de los datos recopilados.
Ahora mismo, Estados Unidos carece de legislación federal que regule la protección de datos. El país cuenta con un mosaico de normativas vinculadas a sectores específicos, como la sanidad, las transacciones financieras y el marketing. Asimismo, las empresas y entidades que recopilan datos personales no están obligadas a revelar qué hacen con ellos.
Esta situación hace que mucha gente desconfíe. Tres meses antes de que la COVID-19 llegara a Estados Unidos, una encuesta del Pew Research Center reveló que, en general, los estadounidenses se sienten «preocupados, confusos y... con falta de control sobre su información personal».
Los críticos del reconocimiento de mascarilla también creen que esta nueva tecnología podría ser propensa a caer en las mismas trampas que el reconocimiento facial. Muchos de los parámetros de entrenamiento que se utilizan para el reconocimiento facial están dominados por individuos de tez clara. En 2019, Joy Buolamwini, una investigadora del Media Lab del Instituto Tecnológico de Massachusetts y Deborah Raji, del AI Now Institute, estudiaron la precisión de los parámetros disponibles a nivel comercial que emplean las principales empresas tecnológicas. Cuando comprobaron el rendimiento de los sistemas de reconocimiento con un algoritmo entrenado con los parámetros estándar y a continuación emplearon un nuevo conjunto de caras con mucho más equilibrio racial y étnico, las investigadoras descubrieron que el algoritmo tenía una precisión inferior al 70 por ciento a la hora de identificar caras nuevas.
Otro aspecto del aprendizaje automático a tener en cuenta es que nadie sabe qué utiliza el algoritmo para tomar la decisión. Por ejemplo, digamos que queremos entrenar un algoritmo para que reconozca a una vaca. «Crees que le enseñas al modelo un conjunto de ejemplos de una vaca, pero no te das cuenta de que, para conseguir la etiqueta de vaca, [el algoritmo] podría estar analizando los prados verdes del fondo», señala Raji.
Apliquemos ese principio al reconocimiento facial o de mascarillas: es posible que los modelos de aprendizaje automático capten otras características «de fondo», como la raza y el género, que harían que cometiera errores a la hora de determinar si alguien lleva mascarilla. «Hay otros artefactos que influyen en la decisión [del algoritmo]», afirma Raji, y quienes investigan el aprendizaje automático solo acaban de aceptar esta limitación de la técnica.
También cree que podría no necesitarse una solución tecnológica para hacer que la gente lleve mascarillas. Según ella, el reconocimiento de mascarilla parece un «teatro tecnológico», ya que introduce software —y abre debates sobre la privacidad— para abordar una cuestión al mismo tiempo que se esquiva el problema subyacente.
Hay formas mejores de hacer que la gente cumpla las normas sobre el uso de mascarilla que emplear sistemas de reconocimiento que tienen el potencial de atentar contra las libertades civiles, señala Aaron Peskin, supervisor municipal de San Francisco que encabezó un proyecto de ley en 2019 para prohibir el uso de reconocimiento facial por parte de las fuerzas de orden.
«Ir por ahí con ese nivel de invasión no crea una sociedad sana», contó Peskin a National Geographic. Apuntó que la policía de Nueva York estaba apostada en el Washington Square Park para repartir mascarillas a los transeúntes.
Esta semana, Portland, Oregón, ha aprobado una ley que prohibiría el uso público y privado del reconocimiento facial, convirtiéndose en la primera ciudad donde es ilegal el uso de esta tecnología. Pero Oregón también tiene una norma estatal de uso obligatorio de mascarillas y Hector Dominguez, el coordinador de Smart City Open Data en Portland, cree que el reconocimiento de mascarilla es diferente al reconocimiento facial en lo que respecta a los riesgos para la privacidad.
«Estamos en plena crisis. Hay que empezar a concienciar más sobre la privacidad» en lo referente al uso de datos o a cómo se comparten en general, dice. Aunque la prohibición del reconocimiento facial en Portland no afectaría al uso de sistemas de reconocimiento de mascarilla, Dominguez teme que los sistemas de reconocimiento de mascarilla capten más cosas: «Las mascarillas no van a detener el reconocimiento facial», afirma.
Los críticos apuntan que el escollo del reconocimiento de mascarilla es que podría sentar un precedente peligroso para cuando termine la pandemia.
«Hay un deseo de relajar las normas en lo que respecta a cualquier cosa relacionada con la COVID», dice Lewis de CSIS. «El problema es que, cuando termine, ¿volveremos a la normalidad?».
Este artículo se publicó originalmente en inglés en nationalgeographic.com.
