Los peligros de pensar que la tecnología hace milagros

“En Santiago tenemos una discusión acerca del uso de drones para vigilancia pública. El proyecto, como lo vemos nosotros, tiene muchos problemas en temas de privacidad, por ejemplo. Y en un foro para hablar de este tema se cuestionaba si un dron, en efecto, puede disuadir a los criminales. Todo el mundo asume que sí. Pero una persona en el público preguntó si no era más fácil y efectivo poner un guardia en las zonas más complejas. La idea es simple, pero quedó resonando. Pensamos que, como es un dron, entonces es mejor que un guardia”.

Vladimir Garay es director de incidencia en Derechos Digitales, una organización chilena dedicada a monitorear temas de derechos fundamentales en entornos digitales. “Lo que me parece notable de ese caso, y de otros, es que hay una creencia de que cualquier problema se puede resolver con tecnología. Es un lugar común: toda solución tecnológica siempre es mejor. Y la verdad es muy diferente de esto”.

No es una idea nueva. La fe en el avance científico y tecnológico es quizá una rama de la fe en el progreso, una fuerza que, con resultados cuestionables aquí y allá, ha beneficiado a millones de personas. La penicilina, la luz eléctrica, la imprenta, todos avances de adopción masiva que generaron cambios profundos.

La era del computador y las telecomunicaciones introdujeron una aceleración en la producción de bienes, y beneficios, derivados de una serie de tecnologías. Y esta reproducción inmediata y veloz de pequeños milagros ha acrecentado el culto en el progreso, particularmente en el progreso mediante tecnología.

Y todo esto suena mucho a religión. Y, acaso, lo es. Sólo que en este caso hay resultados y manifestaciones más tangibles, si se quiere. Paréntesis rápido: en noviembre del año pasado, un estudio realizado en Holanda concluyó que la religiosidad y la creencia en el progreso científico y tecnológico eran factores que se asociaban con una mayor satisfacción en la vida. Pero optar por el culto al silicio incrementa la sensación de bienestar, por encima de una religión en particular, pues provee una idea más amplia de control. Fin del paréntesis.

Ahora bien, al igual que las religiones, la tecnología tiene sesgos y prejuicios porque, en últimas, es una creación humana. Sin entrar en mayores debates teológicos, ambas cosas son interpretaciones humanas y en ese recodo anidan problemas de diseño que terminan expresándose cuando optamos por resolver todo desde esa óptica, desde el dogma.

Un ejemplo de esto es el uso masivo de los algoritmos en casi cualquier nicho de la vida moderna: un algoritmo sugiere qué ver en Netflix, pero también evalúa la capacidad de endeudamiento de una persona, o sea, dice qué tan confiable es un individuo a la hora de aspirar a un crédito. Un veredicto fácil e inmediato. Conveniente para los bancos. Y si bien la matemática no tiene sesgos, el diseño de un algoritmo lleva la huella implícita, pero indeleble, de su diseñador, con todos sus prejuicios y fallas humanas.

“Es muy común en los gobiernos resolver problemas educativos comprando más computadores o tabletas. Y después comenzamos a encontrarnos con las preguntas de qué hacemos con eso o para qué fue que hicimos esas compras. Las respuestas no siempre son fáciles”, dice José Luis Peñarredonda, periodista de tecnología y estudiante de maestría en Cultura Digital y Sociedad del Kings College de Londres.

Peñarredonda advierte un punto que quizás resulte obvio, pero no por eso es menos importante: la fe en la tecnología es una creencia que les resulta muy conveniente a los proveedores de tecnología, las empresas que fabrican software y hardware, y que siempre tienen una solución nueva para nuestros problemas. A veces también ofrecen problemas nuevos disfrazados de soluciones.

Garay ofrece un ejemplo: “En los años 90, en Chile, hubo un plan para instalar máquinas que procesaban el pago en los buses con monedas. Se instalaron y la gente no las usó y le siguió pagando al conductor porque no llevaba monedas, porque no les gustaban o porque la máquina se dañaba y retrasaba la subida al bus en hora pico, por ejemplo. Al final, las máquinas fueron desinstaladas y guardadas en una bodega. Fue una inversión millonaria que dio pérdidas para el público, pero que le dio mucho dinero al proveedor de esta tecnología”.

¿Quién toma estas decisiones? ¿Cómo opera el debate que lleva de A “tenemos un problema” a B “le tengo una máquina/aplicación/programa para eso”? ¿Cómo resistir la tentación de buscar un salvavidas tecnológico?

Más discusión pública sobre estos temas puede ser una solución. Más espacios para que alguien pregunte si no es mejor poner a un guardia en una calle que un dron que nos vigile a todos. Peñarredonda lo resume al decir que es necesaria más transparencia en la forma como las instituciones y los Estados piensan en términos de tecnología.

Tiene razón, las discusiones sobre cómo se aproximan a un problema y cómo deciden que lo que necesitan son más computadores en las aulas o almacenamiento en la nube para historias clínicas o reconocimiento facial para detener la violencia en los estadios deben ser más abiertas. En últimas, la discusión sobre por qué se opta por un camino determinado tiene que incluir más voces, aparte de las cinco personas de un comité que toman la decisión después de mirar cotizaciones de proveedores de tecnologías varias.

Y aquí tampoco se trata de ir al otro extremo, el de la tecnofobia, una corriente muy popular por estos días. La tecnología ofrece beneficios y entrega resultados para ciertos problemas, en ciertas situaciones. Negar esto de tajo es tan dogmático como pensar que todo en la vida se soluciona con más tecnología. Extremos con el mismo vicio.

“Es necesario tener una visión crítica en este punto y para todo. Desde la educación necesitamos comprender mejor qué representa la tecnología en verdad”, dice Garay. “Tenemos que entender que esto es más que celulares y entretenimiento, que es una fuerza detrás de muchas cosas y sólo al verla así comenzamos a entender sus alcances, oportunidades y peligros”, concluye Peñarredonda.

“En Santiago tenemos una discusión acerca del uso de drones para vigilancia pública. El proyecto, como lo vemos nosotros, tiene muchos problemas en temas de privacidad, por ejemplo. Y en un foro para hablar de este tema se cuestionaba si un dron, en efecto, puede disuadir a los criminales. Todo el mundo asume que sí. Pero una persona en el público preguntó si no era más fácil y efectivo poner un guardia en las zonas más complejas. La idea es simple, pero quedó resonando. Pensamos que, como es un dron, entonces es mejor que un guardia”.

Vladimir Garay es director de incidencia en Derechos Digitales, una organización chilena dedicada a monitorear temas de derechos fundamentales en entornos digitales. “Lo que me parece notable de ese caso, y de otros, es que hay una creencia de que cualquier problema se puede resolver con tecnología. Es un lugar común: toda solución tecnológica siempre es mejor. Y la verdad es muy diferente de esto”.

No es una idea nueva. La fe en el avance científico y tecnológico es quizá una rama de la fe en el progreso, una fuerza que, con resultados cuestionables aquí y allá, ha beneficiado a millones de personas. La penicilina, la luz eléctrica, la imprenta, todos avances de adopción masiva que generaron cambios profundos.

La era del computador y las telecomunicaciones introdujeron una aceleración en la producción de bienes, y beneficios, derivados de una serie de tecnologías. Y esta reproducción inmediata y veloz de pequeños milagros ha acrecentado el culto en el progreso, particularmente en el progreso mediante tecnología.

Y todo esto suena mucho a religión. Y, acaso, lo es. Sólo que en este caso hay resultados y manifestaciones más tangibles, si se quiere. Paréntesis rápido: en noviembre del año pasado, un estudio realizado en Holanda concluyó que la religiosidad y la creencia en el progreso científico y tecnológico eran factores que se asociaban con una mayor satisfacción en la vida. Pero optar por el culto al silicio incrementa la sensación de bienestar, por encima de una religión en particular, pues provee una idea más amplia de control. Fin del paréntesis.

Ahora bien, al igual que las religiones, la tecnología tiene sesgos y prejuicios porque, en últimas, es una creación humana. Sin entrar en mayores debates teológicos, ambas cosas son interpretaciones humanas y en ese recodo anidan problemas de diseño que terminan expresándose cuando optamos por resolver todo desde esa óptica, desde el dogma.

Un ejemplo de esto es el uso masivo de los algoritmos en casi cualquier nicho de la vida moderna: un algoritmo sugiere qué ver en Netflix, pero también evalúa la capacidad de endeudamiento de una persona, o sea, dice qué tan confiable es un individuo a la hora de aspirar a un crédito. Un veredicto fácil e inmediato. Conveniente para los bancos. Y si bien la matemática no tiene sesgos, el diseño de un algoritmo lleva la huella implícita, pero indeleble, de su diseñador, con todos sus prejuicios y fallas humanas.

“Es muy común en los gobiernos resolver problemas educativos comprando más computadores o tabletas. Y después comenzamos a encontrarnos con las preguntas de qué hacemos con eso o para qué fue que hicimos esas compras. Las respuestas no siempre son fáciles”, dice José Luis Peñarredonda, periodista de tecnología y estudiante de maestría en Cultura Digital y Sociedad del Kings College de Londres.

Peñarredonda advierte un punto que quizás resulte obvio, pero no por eso es menos importante: la fe en la tecnología es una creencia que les resulta muy conveniente a los proveedores de tecnología, las empresas que fabrican software y hardware, y que siempre tienen una solución nueva para nuestros problemas. A veces también ofrecen problemas nuevos disfrazados de soluciones.

Garay ofrece un ejemplo: “En los años 90, en Chile, hubo un plan para instalar máquinas que procesaban el pago en los buses con monedas. Se instalaron y la gente no las usó y le siguió pagando al conductor porque no llevaba monedas, porque no les gustaban o porque la máquina se dañaba y retrasaba la subida al bus en hora pico, por ejemplo. Al final, las máquinas fueron desinstaladas y guardadas en una bodega. Fue una inversión millonaria que dio pérdidas para el público, pero que le dio mucho dinero al proveedor de esta tecnología”.

¿Quién toma estas decisiones? ¿Cómo opera el debate que lleva de A “tenemos un problema” a B “le tengo una máquina/aplicación/programa para eso”? ¿Cómo resistir la tentación de buscar un salvavidas tecnológico?

Más discusión pública sobre estos temas puede ser una solución. Más espacios para que alguien pregunte si no es mejor poner a un guardia en una calle que un dron que nos vigile a todos. Peñarredonda lo resume al decir que es necesaria más transparencia en la forma como las instituciones y los Estados piensan en términos de tecnología.

Tiene razón, las discusiones sobre cómo se aproximan a un problema y cómo deciden que lo que necesitan son más computadores en las aulas o almacenamiento en la nube para historias clínicas o reconocimiento facial para detener la violencia en los estadios deben ser más abiertas. En últimas, la discusión sobre por qué se opta por un camino determinado tiene que incluir más voces, aparte de las cinco personas de un comité que toman la decisión después de mirar cotizaciones de proveedores de tecnologías varias.

Y aquí tampoco se trata de ir al otro extremo, el de la tecnofobia, una corriente muy popular por estos días. La tecnología ofrece beneficios y entrega resultados para ciertos problemas, en ciertas situaciones. Negar esto de tajo es tan dogmático como pensar que todo en la vida se soluciona con más tecnología. Extremos con el mismo vicio.

“Es necesario tener una visión crítica en este punto y para todo. Desde la educación necesitamos comprender mejor qué representa la tecnología en verdad”, dice Garay. “Tenemos que entender que esto es más que celulares y entretenimiento, que es una fuerza detrás de muchas cosas y sólo al verla así comenzamos a entender sus alcances, oportunidades y peligros”, concluye Peñarredonda.