La Policía inició un proceso para adquirir programas, equipos y capacitación técnica para construir un sistema que recoja y analice información de perfiles y actividades en redes sociales y de otras fuentes en internet: ¿quiénes son influenciadores?, ¿desde dónde se publicó un tuit?, ¿qué cuentas posicionan qué temas importantes?, etc. Este sistema, que le costaría al Estado casi $4.500 millones de pesos, abre muchas preguntas sobre la forma en la que los agentes de la Policía, encargados de usarlo para hacer cualquier tipo de búsqueda, van a definir quién es peligroso en la red y sobre cómo van a controlar que un sistema con tantas capacidades no vaya a usarse para fines ilegítimos.
Estrenamos el año 2020 con la noticia de Semana titulada “Las carpetas secretas”, perfiles construidos por la inteligencia del Ejército Nacional con información pública en internet sobre periodistas, políticos, ONG, sindicalistas, incluso generales y políticos de gobierno. El desconcierto fue mayúsculo, que no vigilen a las personas “a la antigua” —un agente secreto apostado en la puerta de su casa que lo sigue a todas partes, revisa su basura y hace preguntas para establecer hábitos, contactos y detalles sobre su vida— no tranquilizó. El Ejército estaba ciberpatrullando y eso también da miedo y exige límites.
El sistema que licita la Policía busca usar tecnología para recoger información de redes sociales, motores de búsqueda, páginas web, foros, blogs, pero también tomaría datos de la “dark o deep web” —ese internet público que no está indexado en buscadores como Google— y, además, en adelante la Policía también debería poder cruzar estos datos con los de sus propios sistemas de información. Es decir, al final irá más allá de lo que son las fuentes públicas e indexadas de internet.
Sobre la forma como quieren hacerlo: usarán “crawlers” —un robot o araña que hace clic en todos los enlaces de una página y luego en todos los enlaces de esos enlaces y extrae de allí la información —el sistema que usan los propios buscadores como Google—. En la licitación no hay indicaciones sobre cuáles serían los criterios de búsqueda de estos “crawlers” y aunque ellos pueden hacer cualquier cosa, la policía debe tener claro que ella solo puede hacer lo que le está permitido. Pero sigue, el sistema también permitirá recolección manual de información y la creación de Bots y cuentas falsas en redes sociales y en mensajería instantánea. De nuevo, no se trata solamente de acceder a información pública indexada, buscan también capacidades para desarrollar estrategias coordinadas simuladas (Bots y cientos de cuentas falsas), sin que se explique qué tiene que ver eso con el monitoreo pasivo de un sistema de información pública.
Con la información que recogen quieren poder analizar temas, discursos y tendencias, usarla para evaluar las reacciones a una noticia o un escándalo (análisis de sentimientos), además quieren tener capacidad para localizar a las personas con base en esos datos de internet. Todo eso para hacer perfiles y generar alertas de conductas sospechosas en temas muy diversos que van desde ciberdelitos y la protección de niños, niñas y adolescentes, hasta el amotinamiento en cárceles o las noticias falsas con ocasión de la emergencia por el COVID-19.
Varios aspectos de las capacidades digitales generan preocupación al reforzar la sensación de que es un sistema que se basa en la sospecha generalizada. No es solo recoger información pública indexada en la red, es también infiltrarse en actividades civiles —¿qué evitaría que lo hagan en actividades legítimas como protestas pacíficas?—, en espacios más allá de la internet pública indexada —como la mensajería instantánea—, o en temas que deberían estar fuera de su alcance, como las noticias falsas —¿acaso la policía establecerá qué es noticia falsa?—, por ejemplo.
Claro que la fuerza pública debe tener capacidades de vigilancia para combatir el crimen organizado que usa internet para sus acciones en delitos tan aberrantes como los que popularmente se llaman “pornografía infantil” o “trata de personas”. Nos preocupa el uso de Internet también para traficar con sustancias psicoactivas, comercializar con especies exóticas o cometer ciberdelitos. Sin embargo, esto no justifica que esas capacidades se usen alegremente. Sobre todo, no deben ser planteadas como un mecanismo de sospecha generalizada que pone en riesgo los derechos a la intimidad, libertad de expresión, asociación y un largo etcétera.
El revuelo que se armó en redes al conocerse esta licitación muestra que sin importar que la información sea pública, las personas reconocen que las capacidades de perfilamiento que permite la tecnología digital pueden ser muy invasivas y en manos de autoridades debe tener límites, seguimiento y control. La reacción de la Procuraduría pidiendo explicaciones ratifica que esta conciencia va penetrando también en los órganos de control y es muy oportuna porque como cualquier otro sistema de vigilancia de personas, su despliegue debe hacerse respetando los estándares internacionales para los Derechos Humanos: legalidad, necesidad, proporcionalidad y debido proceso. Que además exigen garantías de control y seguimiento.
En suma, compartimos con la Procuraduría muchas de las preocupaciones. ¿Cuáles son las facultades legales de la policía? Su descripción no puede ser general sino muy específica y deberá obligarlos en términos de alcance. Además, surge la pregunta sobre la proporcionalidad frente a las necesidades de la Policía, pues el valor y el tamaño del sistema obliga a pensar si la Policía necesita monitorear toda internet, crear cuentas falsas y bots, hacer análisis del discurso y de redes constantemente para cumplir con su función. Finalmente, si se lleva a sus justas proporciones, ¿cómo se incorporan en este sistema las garantías de derechos humanos?, ¿cuáles serán los mecanismos para hacer seguimiento y control? Valdría la pena suspender el proceso y crear el marco jurídico antes de comprar una camisa muy costosa que le va a quedar grande a las capacidades legales de la Policía.
La Policía inició un proceso para adquirir programas, equipos y capacitación técnica para construir un sistema que recoja y analice información de perfiles y actividades en redes sociales y de otras fuentes en internet: ¿quiénes son influenciadores?, ¿desde dónde se publicó un tuit?, ¿qué cuentas posicionan qué temas importantes?, etc. Este sistema, que le costaría al Estado casi $4.500 millones de pesos, abre muchas preguntas sobre la forma en la que los agentes de la Policía, encargados de usarlo para hacer cualquier tipo de búsqueda, van a definir quién es peligroso en la red y sobre cómo van a controlar que un sistema con tantas capacidades no vaya a usarse para fines ilegítimos.
Estrenamos el año 2020 con la noticia de Semana titulada “Las carpetas secretas”, perfiles construidos por la inteligencia del Ejército Nacional con información pública en internet sobre periodistas, políticos, ONG, sindicalistas, incluso generales y políticos de gobierno. El desconcierto fue mayúsculo, que no vigilen a las personas “a la antigua” —un agente secreto apostado en la puerta de su casa que lo sigue a todas partes, revisa su basura y hace preguntas para establecer hábitos, contactos y detalles sobre su vida— no tranquilizó. El Ejército estaba ciberpatrullando y eso también da miedo y exige límites.
El sistema que licita la Policía busca usar tecnología para recoger información de redes sociales, motores de búsqueda, páginas web, foros, blogs, pero también tomaría datos de la “dark o deep web” —ese internet público que no está indexado en buscadores como Google— y, además, en adelante la Policía también debería poder cruzar estos datos con los de sus propios sistemas de información. Es decir, al final irá más allá de lo que son las fuentes públicas e indexadas de internet.
Sobre la forma como quieren hacerlo: usarán “crawlers” —un robot o araña que hace clic en todos los enlaces de una página y luego en todos los enlaces de esos enlaces y extrae de allí la información —el sistema que usan los propios buscadores como Google—. En la licitación no hay indicaciones sobre cuáles serían los criterios de búsqueda de estos “crawlers” y aunque ellos pueden hacer cualquier cosa, la policía debe tener claro que ella solo puede hacer lo que le está permitido. Pero sigue, el sistema también permitirá recolección manual de información y la creación de Bots y cuentas falsas en redes sociales y en mensajería instantánea. De nuevo, no se trata solamente de acceder a información pública indexada, buscan también capacidades para desarrollar estrategias coordinadas simuladas (Bots y cientos de cuentas falsas), sin que se explique qué tiene que ver eso con el monitoreo pasivo de un sistema de información pública.
Con la información que recogen quieren poder analizar temas, discursos y tendencias, usarla para evaluar las reacciones a una noticia o un escándalo (análisis de sentimientos), además quieren tener capacidad para localizar a las personas con base en esos datos de internet. Todo eso para hacer perfiles y generar alertas de conductas sospechosas en temas muy diversos que van desde ciberdelitos y la protección de niños, niñas y adolescentes, hasta el amotinamiento en cárceles o las noticias falsas con ocasión de la emergencia por el COVID-19.
Varios aspectos de las capacidades digitales generan preocupación al reforzar la sensación de que es un sistema que se basa en la sospecha generalizada. No es solo recoger información pública indexada en la red, es también infiltrarse en actividades civiles —¿qué evitaría que lo hagan en actividades legítimas como protestas pacíficas?—, en espacios más allá de la internet pública indexada —como la mensajería instantánea—, o en temas que deberían estar fuera de su alcance, como las noticias falsas —¿acaso la policía establecerá qué es noticia falsa?—, por ejemplo.
Claro que la fuerza pública debe tener capacidades de vigilancia para combatir el crimen organizado que usa internet para sus acciones en delitos tan aberrantes como los que popularmente se llaman “pornografía infantil” o “trata de personas”. Nos preocupa el uso de Internet también para traficar con sustancias psicoactivas, comercializar con especies exóticas o cometer ciberdelitos. Sin embargo, esto no justifica que esas capacidades se usen alegremente. Sobre todo, no deben ser planteadas como un mecanismo de sospecha generalizada que pone en riesgo los derechos a la intimidad, libertad de expresión, asociación y un largo etcétera.
El revuelo que se armó en redes al conocerse esta licitación muestra que sin importar que la información sea pública, las personas reconocen que las capacidades de perfilamiento que permite la tecnología digital pueden ser muy invasivas y en manos de autoridades debe tener límites, seguimiento y control. La reacción de la Procuraduría pidiendo explicaciones ratifica que esta conciencia va penetrando también en los órganos de control y es muy oportuna porque como cualquier otro sistema de vigilancia de personas, su despliegue debe hacerse respetando los estándares internacionales para los Derechos Humanos: legalidad, necesidad, proporcionalidad y debido proceso. Que además exigen garantías de control y seguimiento.
En suma, compartimos con la Procuraduría muchas de las preocupaciones. ¿Cuáles son las facultades legales de la policía? Su descripción no puede ser general sino muy específica y deberá obligarlos en términos de alcance. Además, surge la pregunta sobre la proporcionalidad frente a las necesidades de la Policía, pues el valor y el tamaño del sistema obliga a pensar si la Policía necesita monitorear toda internet, crear cuentas falsas y bots, hacer análisis del discurso y de redes constantemente para cumplir con su función. Finalmente, si se lleva a sus justas proporciones, ¿cómo se incorporan en este sistema las garantías de derechos humanos?, ¿cuáles serán los mecanismos para hacer seguimiento y control? Valdría la pena suspender el proceso y crear el marco jurídico antes de comprar una camisa muy costosa que le va a quedar grande a las capacidades legales de la Policía.