La promesa de la seguridad automática para Bucaramanga
Bucaramanga “será el plan piloto a nivel nacional, la primera que contará con cámaras de reconocimiento facial que se integrarán al sistema de la Policía Nacional”. Por unos 300 millones de pesos la ciudad podrá “adelantar, de una manera inmediata, los procesos a aquellas personas captadas en fotografías y video; analizando el material rápidamente y dando captura a los delincuentes”. ¡Qué maravilla! ¡Seguridad automática y express! Y entonces, ¿por qué preocuparnos?
En 2019 Karisma, donde trabajo, publicó el informe “Biometría en el Estado colombiano, ¿cuándo y cómo se ha justificado su uso?”. El uso de biometría en nuestro Estado tiene muchas aristas, el informe, por ejemplo, muestra cómo inicialmente su propósito era concreto, en sectores específicos (la Registraduría para identificar votantes o la Policía para individualizar criminales, por ejemplo), mientras que los discursos que justifican hoy el uso de datos y la identificación biométrica facial hablan de perseguir criminales; pero en la práctica, el sistema tiene tantas interconexiones que todo se mezcla y en las declaraciones lo que prima son las expectativas de las autoridades respecto a la tecnología biométrica y al funcionamiento de un Estado moderno.
En 2019 se estableció que el sistema multibiométrico ABIS de la Policía –que ahora estará en Bucaramanga– no podía usarse porque no tenían la base de datos con rostros que permitiera identificar a una persona –algo que ya había sucedido con un ensayo similar que se hizo para el sistema de Transmilenio en Bogotá. Cuando esto fue evidente, la Policía pidió a la Registraduría que les facilitara las plantillas faciales de las personas con antecedentes judiciales. Esta solicitud fue negada en ese momento, sin embargo, el año pasado la propia Policía nos confirmó que ABIS ya tenía acceso.
Pero, más allá de que no funcionara por falta de la base de datos, algo que se irá arreglando a medida que se construyan voluntariamente o no, en Karisma consideramos que hay problemas de marco jurídico y justificación para el uso de datos biométricos en proyectos de reconocimiento facial.
En este tipo de proyectos se requiere una ley estatutaria que diga específicamente qué se puede hacer con los datos. Para su despliegue además se debe establecer la proporcionalidad entre la vulneración a derechos, especialmente la privacidad, y lo que se consigue con el uso de esos datos.
En Colombia, el uso de datos biométricos para vigilar a las personas en espacios públicos no está regulado de acuerdo con los requisitos que exige la Corte Constitucional para estos casos. Tampoco existe autoridad que gobierne esta relación. La autoridad de protección de datos colombiana (la SIC) se ocupa de las relaciones entre particulares —cuando se trata del Estado sería la Procuraduría—, que hasta la fecha realmente no ha ejercido estas funciones.
De las investigaciones de Karisma podemos confirmar que la Policía busca generar formas de identificar a personas en videos e imágenes sin su autorización usando técnicas de vigilancia que tratan a todas las personas como sospechosas, especialmente cuando están ocupando el espacio público –en una acción que además desincentiva su uso. El reconocimiento facial se implementa sin que exista ningún tipo de medida de necesidad y proporcionalidad, ni criterios para limitar su uso en contextos políticos, como las protestas, por ejemplo.
Esto se desarrolla en contravía con lo que organismos como la ONU han advertido. La ONU reconoce el impacto dañino para los derechos humanos de esta tecnología y ha pedido a los gobiernos que hagan una moratoria en su implementación hasta que no tengamos más información y mecanismos de control.
El sueño de automatizar cualquier tipo de actuación pública parece muy sencillo, y la biometría encaja en esa promesa. Pero si antes el Estado se esforzaba por explicar y justificar la recolección y uso de datos de las personas y construir la confianza en su uso, cada vez más los datos son solo el requisito para automatizar procesos y basta como justificación. La confianza se da por sentada, aunque en realidad cada vez las personas desconfían más de las autoridades y la discusión democrática se evade del todo.
El reconocimiento facial para identificar criminales que ahora se probará en Bucaramanga deja muchas preguntas: ¿Se seguirá alimentando la base de datos? ¿Cómo? ¿Con los datos de qué personas? ¿Solo prófugas? ¿Cómo lo mantendrán actualizado? Se conectará además con 20 cámaras ubicadas en lugares estratégicos: ¿Dónde se ubicarán? ¿Cómo evitan la discriminación? ¿Cómo evitan la reproducción de sesgos preexistentes?
Hay una tendencia a la universalización: datos que antes se recogían con propósitos únicos como las elecciones, la autorización de un crédito o una investigación criminal, se conectan y mezclan para servir en cualquier actuación. Todo esto se hace dejando de lado las discusiones sobre los posibles impactos dañinos en el ejercicio de los derechos.
Al final, la automatización y la eficiencia sirven como justificación única, sin que se nos entreguen análisis de los costos que puede generar su mantenimiento, actualización, pero sobre todo, sin que se hable del impacto de usar estos sistemas en las personas y más con la ilusión que se genera en Bucaramanga de que se identifiquen “5000 rostros en tan solo un segundo” para atrapar a las personas malas. Parece incluso ausente la reflexión sobre la eficiencia de esta tecnología para el fin que le atribuyen y mucho menos análisis sobre el espacio que se abre para nuevos posibles abusos.
Jueces en Buenos Aires y en Sao Paulo han ordenado la suspensión de sistemas similares de reconocimiento facial en sus ciudades. Estas decisiones reconocen que –como lo hemos advertido desde la sociedad civil y la academia– se trata de una tecnología riesgosa para los derechos humanos. Su uso es desproporcionado respecto a los fines que persigue y termina, por ejemplo, convirtiendo en sospechosas a todas las personas.
Del sistema ABIS en Bucaramanga sabemos poco, pero por lo que dicen los medios parece un nuevo ensayo masivo, en vivo y en directo, del sistema de reconocimiento facial de la Policía. Aunque hemos solicitado información al municipio no hemos obtenido respuesta y por tanto se nos dificulta hacer seguimiento y control; insistiremos.
Un amigo me dijo una vez que para hacer las ancas de rana hay que cocinar al animal vivo. Me explicó que a una rana no se le puede meter a la olla caliente de una sola vez porque, claro, saltará y huirá. Se le cocina metiéndola en el agua al clima y poco a poco le va aumentando el calor, así la rana se acostumbra y no reacciona. Esta es mi sensación sobre la tecnología de reconocimiento facial en Colombia: está subiendo la temperatura.
Bucaramanga “será el plan piloto a nivel nacional, la primera que contará con cámaras de reconocimiento facial que se integrarán al sistema de la Policía Nacional”. Por unos 300 millones de pesos la ciudad podrá “adelantar, de una manera inmediata, los procesos a aquellas personas captadas en fotografías y video; analizando el material rápidamente y dando captura a los delincuentes”. ¡Qué maravilla! ¡Seguridad automática y express! Y entonces, ¿por qué preocuparnos?
En 2019 Karisma, donde trabajo, publicó el informe “Biometría en el Estado colombiano, ¿cuándo y cómo se ha justificado su uso?”. El uso de biometría en nuestro Estado tiene muchas aristas, el informe, por ejemplo, muestra cómo inicialmente su propósito era concreto, en sectores específicos (la Registraduría para identificar votantes o la Policía para individualizar criminales, por ejemplo), mientras que los discursos que justifican hoy el uso de datos y la identificación biométrica facial hablan de perseguir criminales; pero en la práctica, el sistema tiene tantas interconexiones que todo se mezcla y en las declaraciones lo que prima son las expectativas de las autoridades respecto a la tecnología biométrica y al funcionamiento de un Estado moderno.
En 2019 se estableció que el sistema multibiométrico ABIS de la Policía –que ahora estará en Bucaramanga– no podía usarse porque no tenían la base de datos con rostros que permitiera identificar a una persona –algo que ya había sucedido con un ensayo similar que se hizo para el sistema de Transmilenio en Bogotá. Cuando esto fue evidente, la Policía pidió a la Registraduría que les facilitara las plantillas faciales de las personas con antecedentes judiciales. Esta solicitud fue negada en ese momento, sin embargo, el año pasado la propia Policía nos confirmó que ABIS ya tenía acceso.
Pero, más allá de que no funcionara por falta de la base de datos, algo que se irá arreglando a medida que se construyan voluntariamente o no, en Karisma consideramos que hay problemas de marco jurídico y justificación para el uso de datos biométricos en proyectos de reconocimiento facial.
En este tipo de proyectos se requiere una ley estatutaria que diga específicamente qué se puede hacer con los datos. Para su despliegue además se debe establecer la proporcionalidad entre la vulneración a derechos, especialmente la privacidad, y lo que se consigue con el uso de esos datos.
En Colombia, el uso de datos biométricos para vigilar a las personas en espacios públicos no está regulado de acuerdo con los requisitos que exige la Corte Constitucional para estos casos. Tampoco existe autoridad que gobierne esta relación. La autoridad de protección de datos colombiana (la SIC) se ocupa de las relaciones entre particulares —cuando se trata del Estado sería la Procuraduría—, que hasta la fecha realmente no ha ejercido estas funciones.
De las investigaciones de Karisma podemos confirmar que la Policía busca generar formas de identificar a personas en videos e imágenes sin su autorización usando técnicas de vigilancia que tratan a todas las personas como sospechosas, especialmente cuando están ocupando el espacio público –en una acción que además desincentiva su uso. El reconocimiento facial se implementa sin que exista ningún tipo de medida de necesidad y proporcionalidad, ni criterios para limitar su uso en contextos políticos, como las protestas, por ejemplo.
Esto se desarrolla en contravía con lo que organismos como la ONU han advertido. La ONU reconoce el impacto dañino para los derechos humanos de esta tecnología y ha pedido a los gobiernos que hagan una moratoria en su implementación hasta que no tengamos más información y mecanismos de control.
El sueño de automatizar cualquier tipo de actuación pública parece muy sencillo, y la biometría encaja en esa promesa. Pero si antes el Estado se esforzaba por explicar y justificar la recolección y uso de datos de las personas y construir la confianza en su uso, cada vez más los datos son solo el requisito para automatizar procesos y basta como justificación. La confianza se da por sentada, aunque en realidad cada vez las personas desconfían más de las autoridades y la discusión democrática se evade del todo.
El reconocimiento facial para identificar criminales que ahora se probará en Bucaramanga deja muchas preguntas: ¿Se seguirá alimentando la base de datos? ¿Cómo? ¿Con los datos de qué personas? ¿Solo prófugas? ¿Cómo lo mantendrán actualizado? Se conectará además con 20 cámaras ubicadas en lugares estratégicos: ¿Dónde se ubicarán? ¿Cómo evitan la discriminación? ¿Cómo evitan la reproducción de sesgos preexistentes?
Hay una tendencia a la universalización: datos que antes se recogían con propósitos únicos como las elecciones, la autorización de un crédito o una investigación criminal, se conectan y mezclan para servir en cualquier actuación. Todo esto se hace dejando de lado las discusiones sobre los posibles impactos dañinos en el ejercicio de los derechos.
Al final, la automatización y la eficiencia sirven como justificación única, sin que se nos entreguen análisis de los costos que puede generar su mantenimiento, actualización, pero sobre todo, sin que se hable del impacto de usar estos sistemas en las personas y más con la ilusión que se genera en Bucaramanga de que se identifiquen “5000 rostros en tan solo un segundo” para atrapar a las personas malas. Parece incluso ausente la reflexión sobre la eficiencia de esta tecnología para el fin que le atribuyen y mucho menos análisis sobre el espacio que se abre para nuevos posibles abusos.
Jueces en Buenos Aires y en Sao Paulo han ordenado la suspensión de sistemas similares de reconocimiento facial en sus ciudades. Estas decisiones reconocen que –como lo hemos advertido desde la sociedad civil y la academia– se trata de una tecnología riesgosa para los derechos humanos. Su uso es desproporcionado respecto a los fines que persigue y termina, por ejemplo, convirtiendo en sospechosas a todas las personas.
Del sistema ABIS en Bucaramanga sabemos poco, pero por lo que dicen los medios parece un nuevo ensayo masivo, en vivo y en directo, del sistema de reconocimiento facial de la Policía. Aunque hemos solicitado información al municipio no hemos obtenido respuesta y por tanto se nos dificulta hacer seguimiento y control; insistiremos.
Un amigo me dijo una vez que para hacer las ancas de rana hay que cocinar al animal vivo. Me explicó que a una rana no se le puede meter a la olla caliente de una sola vez porque, claro, saltará y huirá. Se le cocina metiéndola en el agua al clima y poco a poco le va aumentando el calor, así la rana se acostumbra y no reacciona. Esta es mi sensación sobre la tecnología de reconocimiento facial en Colombia: está subiendo la temperatura.