El reconocimiento facial, una tecnología perversa
Al Sur lanza su reporte “Reconocimiento facial en América Latina: tendencias de la implementación de una tecnología perversa”, el cual analiza la implementación de tecnologías biométricas para fines de vigilancia en nueve países de la región.
El uso de tecnologías de reconocimiento facial se ha extendido en varios países de América Latina. Estas tecnologías permiten, por medio del análisis de ciertos rasgos característicos del rostro, establecer la identidad de una persona. A pesar de que estas empezaron a usarse hace varias décadas atrás, los avances técnicos recientes referidos a la captura y procesamiento de imágenes, avances en la inteligencia artificial y análisis de datos, han facilitado su mayor despliegue. Al poder instalarse en cámaras, el reconocimiento facial se convirtió en una tecnología con fines de vigilancia a gran escala en el espacio público.
Desde esa premisa, el consorcio de 11 organizaciones y entidades académicas Al Sur, presenta “Reconocimiento facial en América Latina: tendencias en la implementación de una tecnología perversa”, un mapeo de 38 sistemas de reconocimiento facial desplegados en nueve países de la región, al alero de distintas políticas públicas.
El reporte, cuya redacción estuvo a cargo de Jamila Venturini y Vladimir Garay de la organización Derechos Digitales, constata que el reconocimiento facial se viene implementando en gran medida en el marco de políticas de seguridad. Sin embargo, cabe notar su uso cada vez más común en otro tipo de actividades, como el control fronterizo y migratorio, el transporte y la asistencia social. El uso sin marcos legislativos adecuados basados en derechos humanos, pueden permitir una serie de abusos a la privacidad, restricciones a la libre circulación, recolección de datos personales sin consentimiento, así como la de existencia de sesgos y/o errores propios de sus algoritmos y configuraciones, que generen discriminación.
Común a todos los países analizados es la falta de participación con la cual se diseñan las políticas públicas que incorporan el uso de sistemas de reconocimiento facial y la poca transparencia con la cual los sistemas son implementados y utilizados, muchas veces ocultando información relevante respecto a la tecnología utilizada y quién la provee. Por eso, uno de los hallazgos más importantes de la investigación es poder realizar un listado de empresas que están detrás de la implementación de estos sistemas.
Otra cuestión relevante es la falta de marcos normativos que expliciten la legalidad de la implementación de este tipo de tecnología, ni las restricciones que debiese contemplar sus usos, lo que no ha sido un obstáculo para los gobiernos a la hora de implementar estos sistemas. De hecho, en el 60% de los casos, no existe ninguna base legal específica que avale su implementación.
Completamente inexistentes son los estudios de impacto en materia de derechos humanos y la mayor parte de las veces no siquiera están contemplados procesos de auditoría externa, que permitan detectar eventuales fallas en el sistema, lo que abre la puerta para invisibilizar cualquier tipo de error que pueda derivar en abusos y discriminaciones en contra de las personas sujetas a este tipo de control biométrico.
La investigación fue desarrollada por las organizaciones que forman parte del Consorcio Al Sur, a partir de una metodología propuesta por las siguientes organizaciones: Coding Rights, IPANDETEC, InternetLab, InternetLab, R3D, Derechos Digitales, TEDIC y Fundación Karisma.
A partir de esta investigación, buscamos abrir la discusión sobre la implementación de estas tecnologías y brindar insumos para que la sociedad civil pueda llevar adelante una mayor acción de defensa de sus derechos.
Esta se encuentra disponible en castellano, portugués e inglés, y está acompañada de un mini sitio web especialmente diseñado para la ocasión, que puede ser visitado en https://estudio.reconocimientofacial.info/