El espejismo de las “coronapps”: lecciones digitales para tiempos de emergencia

En estos tiempos de pandemia pareciera que vivimos en un episodio de la serie de televisión Silicon Valley, que magistralmente satiriza la cultura de las start-ups que predomina en el Valle del Silicio, en California. En particular, aquel episodio que parodia la competición de start-ups del TechCrunch Disrupt, en el que cada competidor (el uso del género masculino es intencional, pues son todos hombres) termina su presentación prometiendo que sus “revolucionarias” tecnologías van “a hacer del mundo un lugar mejor”.

La versión de la vida real de este episodio incluye a los gobiernos del mundo también comportándose como una start-up y prometiéndonos que las coronapps “salvan vidas”. Y esta frase, por decir lo menos, debe provocarnos suspicacia, especialmente cuando parece ser el argumento clave a favor del despliegue de esta solución tecnológica.

Los gobiernos y empresas tecnológicas nos están transmitiendo la equivocada idea de que las apps proveen alguna protección contra la enfermedad: que si reporto síntomas tendré la respuesta sanitaria asegurada e inmediata para atender mi caso; que casi en tiempo real sabré de cualquier posible daño derivado de haber estado en contacto con alguien con COVID-19 o que la autorización de movilidad me protegerá de contagiarme, entre otros imaginarios.

Esta narrativa responde a la fantasiosa idea de considerar que la tecnología tiene la capacidad de solucionar cualquier problema. Es una alabanza gratuita a la tecnología: pensar que es beneficiosa sólo porque esas fueron las intenciones de quienes la diseñaron y que los posibles efectos negativos sólo son colaterales al lado del provecho que promete.

En Colombia tenemos un Gobierno que no sólo abraza el solucionismo tecnológico alegremente, sino que se guía por el determinismo tecnológico en sus acciones políticas. Es decir, ve la tecnología como un factor determinante, por sí misma, para el progreso y desarrollo del país.

Lea también: Keynes y la mano visible del Estado: ¿hacia un nuevo pacto redistributivo?

De ahí que en la actual coyuntura nos venda la ilusión de que la Coronapp es capaz por sí sola de incidir de manera directa y positiva en la detección y el control de la propagación del virus. Y esto lo hace sin examinar los contextos socioeconómico y cultural del país que gobierna, ni de las potenciales consecuencias a largo plazo.

Ese determinismo hace parte del ADN del sector tecnológico. A fin de cuentas, los gigantes de la tecnología y las start-ups del sector se alimentan de una visión empresarial enfocada en maximizar beneficios y productividad, centrando los objetivos en el binomio, casi divino, de “innovación y progreso”. Y para conseguirlo extienden un agresivo y efectivo marketing que nos atrapa en las supuestas grandes virtudes de sus soluciones tecnológicas. De paso, nos sugieren que les demos las gracias por lo que han hecho.

Una crisis como la que estamos atravesando hace que las soluciones tecnológicas parezcan muy novedosas. Sin embargo, el uso de datos celulares y aplicaciones para el seguimiento del contagio no es nuevo. Durante la crisis del ébola, en varios países africanos se contaron cientos de propuestas para crear aplicaciones y varios oficiales de gobierno reportaron que más que atender la crisis, distintas instituciones y empresas iban detrás de los datos.

El sector público, por su parte, se apoya en comunicaciones de tipo propagandístico para demostrar que actúa rápidamente y al nivel de los países más desarrollados. No en balde el Gobierno se vanaglorió de que su Coronapp sea reflejo del “talante nacional para actuar rápidamente frente a la presión y a la premura que amerita la emergencia sanitaria” y “lograr que el país tenga una herramienta para rastrear y reportar la propagación del virus, similar a la que Corea del Sur o Singapur utilizan”.

Como todo en relación con la tecnología, la distancia entre las promesas y la realidad es muy grande. En Alemania se estimó que es necesario que 60 % de la población instale la aplicación basada en Bluetooth y que al final no va a implementarse. Sin embargo, una encuesta mostró que solo 47 % de las personas estaban de acuerdo con instalarla y que 8 % no tenía smartphone. En Singapur, un país con alto conocimiento en tecnología y confianza en su gobierno, sólo una de cada cinco personas instaló la aplicación. Mientras que en Islandia, a pesar de que casi 40 % de su población usa la aplicación nacional, han reconocido que el impacto real ha sido pequeño, si se compara con las técnicas de rastreo manual, como la llamada telefónica.

Esto sin contar que todas las estimaciones y argumentos en favor de usar una aplicación requieren modelos altamente contextualizados y que deben ser explícitos. Durante la crisis del ébola se aceptó, sin más, que el uso de datos celulares tenía valor para el rastreo del contagio, sin llegar a explicar nunca cómo o por qué.

Aún en países que se perciben como más efectivos a la hora de imponer decisiones de gobierno, la implementación de soluciones tecnológicas es siempre imperfecta. En China, por ejemplo, persisten problemas de coordinación institucional y para llegar a acuerdos para acceder a los datos de los celulares. Las empresas tienen miedo de que entregar la información de sus clientes resulte en filtraciones que pongan en riesgo su reputación o las haga objetivo de acciones judiciales. Además, los “salvoconductos” de tránsito operan de forma oscura para las personas, que incluso han reportado que a veces cambian rápidamente de verde a rojo sin ninguna explicación.

El solucionismo tecnológico sobrestima el impacto cortoplacista de las coronapps: son la herramienta que supuestamente nos permitirá deshacer las restricciones de aislamiento.

Sin embargo, subestiman las consecuencias a largo plazo: las falsas realidades que construyen a partir de datos inadecuados, de baja calidad e imprecisos; la amplificación de las grandes desigualdades sociales; el peligro de que se conviertan en herramientas permanentes de exclusión social y de vigilancia masiva; la potencialidad que tienen de fomentar la vigilancia privada por y contra la ciudadanía —por ejemplo, si para conseguir un empleo estamos obligados a usar la app o si para poder entrar al supermercado debemos mostrar que la usamos— o una nueva vía para el acoso sexual.

Esto es aún más alarmante cuando el mundo de la tecnología, venga del sector público o del privado, opera en la práctica sin normas de conducta (o directamente las ignora), sin establecer responsabilidades, guiado por el mantra de “mejor pedir disculpas que pedir permiso”.

En una economía cada vez más sedienta de datos, que las soluciones tecnológicas necesitan para poder operar, nos encontramos con argumentos que nos inducen a creer que no tenemos la legitimidad moral para oponernos al desarrollo de herramientas que harán uso de los “datos para el bien”, más en tiempos de emergencia.

“Si les damos todos nuestros datos de una forma tan libre a Facebook, Google y otros, ¿por qué no podemos considerar darle los datos a un gobierno que en teoría está buscando el bien común y la solución a una crisis?”. Estas son palabras de Jorge Restrepo —miembro de un equipo de tres personas que recientemente ganó una convocatoria de Colciencias para buscar soluciones tecnológicas contra el virus—, que muestran una falacia tantas veces utilizada.

En el fondo, Restrepo nos está diciendo que como nos hemos rendido al capitalismo de la vigilancia —ese proceso impulsado por el mercado en el que la mercancía a la venta son nuestros datos personales— tenemos el deber moral y casi patriótico de permitir que el Estado también use nuestra información. Esa falsa deducción desconoce las peligrosas ramificaciones sociales, económicas o políticas de rendirnos a esa idea. No todo lo que se nos ocurra o parezca de utilidad es necesariamente algo bueno.

Necesitamos más que promesas. Tanto en el uso de aplicaciones, como en el de los datos que producen los celulares, los gobiernos deben manejar las expectativas en la implementación de la tecnología y contextualizar estas herramientas dentro de planes de acción más comprensivos. Esto implica reconocer los límites, en todos los niveles, de aplicaciones como las coronapps y hacerlos explícitos al público.

Además, el Gobierno tiene que reconocer la poca confianza que se puede tener en el Estado para el manejo de datos sensibles. Aun cuando se pueda diseñar un sistema tecnológico que proteja la privacidad, es necesario tener confianza en el diseño y en la institucionalidad que lo usa. Teniendo en cuenta el largo historial de abusos en relación con tecnologías en Colombia, es difícil decir que existe esa confianza. Si los gobiernos quieren sacar adelante soluciones basadas en la explotación de datos personales, por lo menos deben tener una institucionalidad fuerte que permita hacer controles estrictos sobre el uso de esta información, mecanismos de transparencia y participación pública.

Es fácil acusar a quienes levantan una voz crítica de querer detener la innovación y el progreso, (pseudo) valores que suelen priorizarse en el determinismo tecnológico. Sin embargo, es obligatorio cuestionar su centralidad en esta discusión. La invitación es a ralentizar la innovación y el progreso tecnológico para reflexionar y anticipar escenarios indeseados. Lo que prometen las coronapps es sumamente difícil de lograr y debemos resistirnos a aceptar el solucionismo tecnológico sólo porque exprese buenas intenciones en tiempos plenos en angustia y desesperación.

*Investigadores de la Fundación Karisma.

En estos tiempos de pandemia pareciera que vivimos en un episodio de la serie de televisión Silicon Valley, que magistralmente satiriza la cultura de las start-ups que predomina en el Valle del Silicio, en California. En particular, aquel episodio que parodia la competición de start-ups del TechCrunch Disrupt, en el que cada competidor (el uso del género masculino es intencional, pues son todos hombres) termina su presentación prometiendo que sus “revolucionarias” tecnologías van “a hacer del mundo un lugar mejor”.

La versión de la vida real de este episodio incluye a los gobiernos del mundo también comportándose como una start-up y prometiéndonos que las coronapps “salvan vidas”. Y esta frase, por decir lo menos, debe provocarnos suspicacia, especialmente cuando parece ser el argumento clave a favor del despliegue de esta solución tecnológica.

Los gobiernos y empresas tecnológicas nos están transmitiendo la equivocada idea de que las apps proveen alguna protección contra la enfermedad: que si reporto síntomas tendré la respuesta sanitaria asegurada e inmediata para atender mi caso; que casi en tiempo real sabré de cualquier posible daño derivado de haber estado en contacto con alguien con COVID-19 o que la autorización de movilidad me protegerá de contagiarme, entre otros imaginarios.

Esta narrativa responde a la fantasiosa idea de considerar que la tecnología tiene la capacidad de solucionar cualquier problema. Es una alabanza gratuita a la tecnología: pensar que es beneficiosa sólo porque esas fueron las intenciones de quienes la diseñaron y que los posibles efectos negativos sólo son colaterales al lado del provecho que promete.

En Colombia tenemos un Gobierno que no sólo abraza el solucionismo tecnológico alegremente, sino que se guía por el determinismo tecnológico en sus acciones políticas. Es decir, ve la tecnología como un factor determinante, por sí misma, para el progreso y desarrollo del país.

Lea también: Keynes y la mano visible del Estado: ¿hacia un nuevo pacto redistributivo?

De ahí que en la actual coyuntura nos venda la ilusión de que la Coronapp es capaz por sí sola de incidir de manera directa y positiva en la detección y el control de la propagación del virus. Y esto lo hace sin examinar los contextos socioeconómico y cultural del país que gobierna, ni de las potenciales consecuencias a largo plazo.

Ese determinismo hace parte del ADN del sector tecnológico. A fin de cuentas, los gigantes de la tecnología y las start-ups del sector se alimentan de una visión empresarial enfocada en maximizar beneficios y productividad, centrando los objetivos en el binomio, casi divino, de “innovación y progreso”. Y para conseguirlo extienden un agresivo y efectivo marketing que nos atrapa en las supuestas grandes virtudes de sus soluciones tecnológicas. De paso, nos sugieren que les demos las gracias por lo que han hecho.

Una crisis como la que estamos atravesando hace que las soluciones tecnológicas parezcan muy novedosas. Sin embargo, el uso de datos celulares y aplicaciones para el seguimiento del contagio no es nuevo. Durante la crisis del ébola, en varios países africanos se contaron cientos de propuestas para crear aplicaciones y varios oficiales de gobierno reportaron que más que atender la crisis, distintas instituciones y empresas iban detrás de los datos.

El sector público, por su parte, se apoya en comunicaciones de tipo propagandístico para demostrar que actúa rápidamente y al nivel de los países más desarrollados. No en balde el Gobierno se vanaglorió de que su Coronapp sea reflejo del “talante nacional para actuar rápidamente frente a la presión y a la premura que amerita la emergencia sanitaria” y “lograr que el país tenga una herramienta para rastrear y reportar la propagación del virus, similar a la que Corea del Sur o Singapur utilizan”.

Como todo en relación con la tecnología, la distancia entre las promesas y la realidad es muy grande. En Alemania se estimó que es necesario que 60 % de la población instale la aplicación basada en Bluetooth y que al final no va a implementarse. Sin embargo, una encuesta mostró que solo 47 % de las personas estaban de acuerdo con instalarla y que 8 % no tenía smartphone. En Singapur, un país con alto conocimiento en tecnología y confianza en su gobierno, sólo una de cada cinco personas instaló la aplicación. Mientras que en Islandia, a pesar de que casi 40 % de su población usa la aplicación nacional, han reconocido que el impacto real ha sido pequeño, si se compara con las técnicas de rastreo manual, como la llamada telefónica.

Esto sin contar que todas las estimaciones y argumentos en favor de usar una aplicación requieren modelos altamente contextualizados y que deben ser explícitos. Durante la crisis del ébola se aceptó, sin más, que el uso de datos celulares tenía valor para el rastreo del contagio, sin llegar a explicar nunca cómo o por qué.

Aún en países que se perciben como más efectivos a la hora de imponer decisiones de gobierno, la implementación de soluciones tecnológicas es siempre imperfecta. En China, por ejemplo, persisten problemas de coordinación institucional y para llegar a acuerdos para acceder a los datos de los celulares. Las empresas tienen miedo de que entregar la información de sus clientes resulte en filtraciones que pongan en riesgo su reputación o las haga objetivo de acciones judiciales. Además, los “salvoconductos” de tránsito operan de forma oscura para las personas, que incluso han reportado que a veces cambian rápidamente de verde a rojo sin ninguna explicación.

El solucionismo tecnológico sobrestima el impacto cortoplacista de las coronapps: son la herramienta que supuestamente nos permitirá deshacer las restricciones de aislamiento.

Sin embargo, subestiman las consecuencias a largo plazo: las falsas realidades que construyen a partir de datos inadecuados, de baja calidad e imprecisos; la amplificación de las grandes desigualdades sociales; el peligro de que se conviertan en herramientas permanentes de exclusión social y de vigilancia masiva; la potencialidad que tienen de fomentar la vigilancia privada por y contra la ciudadanía —por ejemplo, si para conseguir un empleo estamos obligados a usar la app o si para poder entrar al supermercado debemos mostrar que la usamos— o una nueva vía para el acoso sexual.

Esto es aún más alarmante cuando el mundo de la tecnología, venga del sector público o del privado, opera en la práctica sin normas de conducta (o directamente las ignora), sin establecer responsabilidades, guiado por el mantra de “mejor pedir disculpas que pedir permiso”.

En una economía cada vez más sedienta de datos, que las soluciones tecnológicas necesitan para poder operar, nos encontramos con argumentos que nos inducen a creer que no tenemos la legitimidad moral para oponernos al desarrollo de herramientas que harán uso de los “datos para el bien”, más en tiempos de emergencia.

“Si les damos todos nuestros datos de una forma tan libre a Facebook, Google y otros, ¿por qué no podemos considerar darle los datos a un gobierno que en teoría está buscando el bien común y la solución a una crisis?”. Estas son palabras de Jorge Restrepo —miembro de un equipo de tres personas que recientemente ganó una convocatoria de Colciencias para buscar soluciones tecnológicas contra el virus—, que muestran una falacia tantas veces utilizada.

En el fondo, Restrepo nos está diciendo que como nos hemos rendido al capitalismo de la vigilancia —ese proceso impulsado por el mercado en el que la mercancía a la venta son nuestros datos personales— tenemos el deber moral y casi patriótico de permitir que el Estado también use nuestra información. Esa falsa deducción desconoce las peligrosas ramificaciones sociales, económicas o políticas de rendirnos a esa idea. No todo lo que se nos ocurra o parezca de utilidad es necesariamente algo bueno.

Necesitamos más que promesas. Tanto en el uso de aplicaciones, como en el de los datos que producen los celulares, los gobiernos deben manejar las expectativas en la implementación de la tecnología y contextualizar estas herramientas dentro de planes de acción más comprensivos. Esto implica reconocer los límites, en todos los niveles, de aplicaciones como las coronapps y hacerlos explícitos al público.

Además, el Gobierno tiene que reconocer la poca confianza que se puede tener en el Estado para el manejo de datos sensibles. Aun cuando se pueda diseñar un sistema tecnológico que proteja la privacidad, es necesario tener confianza en el diseño y en la institucionalidad que lo usa. Teniendo en cuenta el largo historial de abusos en relación con tecnologías en Colombia, es difícil decir que existe esa confianza. Si los gobiernos quieren sacar adelante soluciones basadas en la explotación de datos personales, por lo menos deben tener una institucionalidad fuerte que permita hacer controles estrictos sobre el uso de esta información, mecanismos de transparencia y participación pública.

Es fácil acusar a quienes levantan una voz crítica de querer detener la innovación y el progreso, (pseudo) valores que suelen priorizarse en el determinismo tecnológico. Sin embargo, es obligatorio cuestionar su centralidad en esta discusión. La invitación es a ralentizar la innovación y el progreso tecnológico para reflexionar y anticipar escenarios indeseados. Lo que prometen las coronapps es sumamente difícil de lograr y debemos resistirnos a aceptar el solucionismo tecnológico sólo porque exprese buenas intenciones en tiempos plenos en angustia y desesperación.

*Investigadores de la Fundación Karisma.