Sistemas de reconocimiento facial en vigilancia policial enfrentan escrutinio por privacidad y sesgo
Las plataformas de búsqueda impulsadas por inteligencia artificial, que permiten a los cuerpos policiales identificar personas a través de cámaras de vigilancia, han suscitado un debate fundamental sobre la gobernanza tecnológica, la rendición de cuentas y la protección de derechos humanos. Estas herramientas no solo facilitan la búsqueda de matrículas vehiculares, sino que también incluyen funcionalidades avanzadas como listas de vigilancia automatizadas, que permiten delimitar áreas geográficas y ejecutar búsquedas de individuos basadas en descripciones proporcionadas por los oficiales.
En los últimos años, varios departamentos de policía han decidido cancelar contratos con proveedores de estas tecnologías tras documentarse casos de abuso. Un incidente en Texas puso de manifiesto un riesgo crítico: un funcionario realizó búsquedas en más de 83,000 cámaras para localizar a una mujer específica, lo que generó serias interrogantes sobre el control de acceso y el uso desproporcionado del sistema. Además, se ha revelado que algunos proveedores permitieron el acceso a datos de cámaras estatales a agentes federales de inmigración, lo que contraviene la legislación estatal sobre protección de datos.
En respuesta a estas preocupaciones, los proveedores han implementado reformas que incluyen la reducción de los períodos de retención de datos, la exigencia de códigos de caso para cada búsqueda y la realización de auditorías automatizadas. Sin embargo, analistas de seguridad han señalado que muchas decisiones críticas sobre qué búsquedas son permitidas se toman en servidores del proveedor, y no en los departamentos que utilizan la tecnología, lo que plantea serias dudas sobre la transparencia y el control local.
Especialistas en tecnología de vigilancia han advertido que estos sistemas asignan a la inteligencia artificial tareas que ninguna tecnología actual puede ejecutar con fiabilidad consistente. El sistema determina automáticamente qué descripciones pueden ser objeto de búsqueda sin supervisión directa del departamento usuario, lo que genera cuestionamientos sobre la precisión de un sistema de esta magnitud. Aunque los proveedores advierten sobre posibles inexactitudes en los resultados, el riesgo legal de tales errores recae en el oficial que realiza la búsqueda, creando una asimetría de responsabilidad.
La clasificación de descripciones sensibles también representa un punto de fricción. Estos sistemas categorizan automáticamente información sobre raza, religión y otros atributos protegidos, permitiendo o bloqueando búsquedas según criterios internos del proveedor. Analistas de política tecnológica han documentado que las categorías protegidas bajo las garantías constitucionales de libertad de expresión reciben un tratamiento diferenciado, sugiriendo que la arquitectura del sistema puede reflejar prioridades que no se alinean con los marcos de derechos humanos.
