Por: Noticias ONU

El reconocimiento facial puede convertirse fácilmente en un instrumento de represión.

Lo hemos visto en las películas distópicas, desde la vigilancia 24/7 hasta la imputación de un delito no cometido: Nuestro rostro digitalizado en malas manos se puede volver en contra de nuestra persona física.

Imagina que caminas por una manifestación pacífica. No llevas cartel, no gritas consignas. Solo estás allí, ejerciendo tu derecho a expresar una opinión. Pero una cámara con reconocimiento facial te identifica, etiqueta tu rostro y lo guarda en una base de datos policial. Sin que lo sepas. Sin que hayas dado tu consentimiento. O aún peor, que no seas tú, pero te identifiquen a ti.

Esto no es una distopía de ciencia ficción. Ya está ocurriendo en numerosos países. Y hoy, un experto en derechos humanos lanza una advertencia contundente: si no se regula con urgencia, el uso del reconocimiento facial por parte de fuerzas de seguridad y servicios de inteligencia puede erosionar derechos fundamentales como la privacidad, la libertad de expresión y la no discriminación.

Ben Saul**, relator especial de la ONU sobre derechos humanos y lucha contra el terrorismo, presenta un nuevo documento de posición que examina cómo esta tecnología, capaz de identificar o verificar a una persona a partir de una imagen de su rostro, se está desplegando en contextos policiales y de seguridad nacional "sin marcos legales claros que garanticen su compatibilidad con los derechos humanos".

Tres usos, un denominador común: la falta de control

El informe distingue tres modalidades principales de reconocimiento facial:

1. Verificación con consentimiento: cuando tú autorizas el uso de tu rostro para desbloquear un dispositivo o pasar un control fronterizo
2. Vigilancia en tiempo real: cámaras en espacios públicos que comparan rostros con bases de datos policiales al instante, sin aviso previo
3. Análisis retrospectivo: cuando las autoridades revisan grabaciones de protestas, redes sociales o circuitos cerrados para identificar personas después de un incidente

El denominador común, señala Saul, es la ausencia de regulación específica. "En la mayoría de los países, no existe una ley parlamentaria que autorice explícitamente el uso de reconocimiento facial, establezca sus límites o prevea mecanismos de supervisión independiente", explica el experto.

"La tecnología no es neutral. Cuando se usa sin supervisión, puede convertir espacios públicos en zonas de vigilancia permanente” asegura Ben Saul en el documento.

Cuando el algoritmo se equivoca, los que pagan son humanos

Uno de los riesgos más documentados es el sesgo algorítmico. Estudios independientes han demostrado que muchos sistemas de reconocimiento facial cometen más errores al identificar a mujeres, personas de piel oscura y jóvenes. Un falso positivo no es solo un fallo técnico: puede traducirse en una detención injusta, una investigación infundada o la inclusión errónea en una lista de vigilancia.

Además, la fiabilidad de estos sistemas disminuye en condiciones del mundo real: mala iluminación, ángulos complicados, movimientos rápidos o el uso de mascarillas. Y aunque algunas empresas prometen tecnología capaz de "reconocer emociones" a partir de expresiones faciales, el informe recuerda que no existe consenso científico que respalde tales afirmaciones. Inferir orientación política, creencias religiosas o estado emocional a partir de un rostro no solo es cuestionable: es peligroso.

Protestar no debería ser un delito

Uno de los capítulos más sensibles del documento aborda el uso del reconocimiento facial en contextos de protesta social. Cuando las cámaras identifican automáticamente a participantes en manifestaciones pacíficas, se genera un "efecto enfriamiento": las personas pueden dejar de ejercer sus derechos por miedo a ser vigiladas, etiquetadas o represaliadas.

"El derecho a reunirse pacíficamente es un pilar de toda democracia", subraya el informe. "Cualquier tecnología que disuada su ejercicio debe someterse a un escrutinio riguroso y, en muchos casos, prohibirse".

Por eso, el eelator especial recomienda prohibir expresamente el uso de reconocimiento facial para identificar a participantes en protestas legítimas, salvo en casos excepcionales de violencia grave y siempre con autorización judicial previa.

Cinco límites al reconocimiento facial

El documento no busca frenar la innovación, sino orientarla con criterios de derechos humanos. Estas son sus recomendaciones clave:

Base legal clara: cada uso de reconocimiento facial debe estar autorizado por una ley parlamentaria que defina fines, límites y mecanismos de control

Prohibiciones absolutas: vetar la vigilancia facial masiva e indiscriminada en espacios públicos; la identificación de manifestantes pacíficos; y los sistemas que pretendan inferir emociones, creencias u orientación política

Autorización judicial: exigir validación de un juez antes de desplegar reconocimiento facial en tiempo real, salvo urgencia justificada con revisión posterior en 24 horas

Transparencia y recurso: publicar políticas de uso, tasas de error y resultados de auditorías; garantizar que cualquier persona pueda impugnar una identificación errónea

Control de exportaciones: someter la venta internacional de esta tecnología a evaluaciones de riesgo de derechos humanos y prohibir transferencias a regímenes con historiales de abuso

El informe alerta también sobre un fenómeno menos visible pero igualmente preocupante: la transferencia de tecnología de reconocimiento facial desde países con marcos regulatorios sólidos hacia Estados con historiales deficientes en derechos humanos. Sin controles adecuados, una herramienta diseñada para la seguridad puede convertirse fácilmente en un instrumento de represión.

La buena noticia: aún estamos a tiempo

A pesar del panorama, el mensaje final del documento es esperanzador: el reconocimiento facial no es inevitable ni imparable. Como señala Ben Saul, "la prevención de abusos requiere tres cosas: leyes vinculantes, supervisión independiente y participación significativa de la sociedad civil en el diseño de las normas".

En definitiva, nuestro rostro es parte de nuestra identidad, no un dato que cualquiera pueda capturar, analizar y almacenar sin nuestro consentimiento. La tecnología debe servir a las personas, no al revés. Y como recuerda este informe: invertir en protección de derechos hoy es más barato, más inteligente y humano que reparar daños mañana.