Cautivos voluntarios

El creciente y sofisticado uso de algoritmos de aprendizaje automático (machine learning) ha dado un peligroso salto adelante: el objetivo ya no es predecir nuestro comportamiento, sino producirlo realmente, por ejemplo induciéndonos suavemente a votar por un candidato político.

Internet nació en 1969, en una California donde miles de comunas reivindicaban los ideales libertarios de desconfianza en el Estado, autonomía, libertad de expresión y tolerancia. Las principales características de Internet son un reflejo de este espíritu: descentralización, libre acceso, ausencia de jerarquías y de control estatal, etc. Estas ideas calaron lógicamente entre los hackers que estaban detrás de las primeras start-ups de Silicon Valley, creadoras de productos que buscaban mejorar la humanidad gracias a unos pocos clics de ratón. Así, el primer eslogan de Google fue Don’t be evil, que podría traducirse como No seas malo.

Los intereses comerciales se impusieron rápidamente al altruismo y se adoptó un nuevo lema: Do the right thing (Haz lo correcto). Y lo considerado correcto fue rentabilizar al máximo los servicios “gratuitos” mediante la explotación comercial de los datos personales facilitados, voluntariamente o no, por los usuarios. Así, estos últimos se han convertido en la principal mercancía que vende Google. ¿Cómo funciona esto? En primer lugar, se identifica nuestro perfil para ofrecernos bienes y servicios relevantes, encerrándonos en un gueto en el que todo lo que no nos gusta está ausente. En segundo punto, el creciente y sofisticado uso de algoritmos de aprendizaje automático (machine learning) ha dado un peligroso salto adelante: el objetivo ya no es predecir nuestro comportamiento, sino producirlo realmente, por ejemplo induciéndonos suavemente a votar por un candidato político.

Una evolución similar han seguido los otros gigantes digitales conocidos por el acrónimo GAFAM (Google, Apple, Facebook, Amazon y Microsoft): todos ellos utilizan, en mayor o menor medida, nuestros datos personales con fines comerciales. Esto tiene fuertes consecuencias para las redes sociales, especialmente las de Facebook y sus filiales Whatsapp e Instagram. De hecho, originalmente considerados como refugios de la libertad, que lo siguen siendo, se han convertido en las principales herramientas de nuestras discusiones diarias, comercializando la transformación de nuestros diálogos en controversias. Como ya señaló Camus en el siglo pasado: “No hay vida sin diálogo. Y en la mayor parte del mundo, el diálogo ha sido sustituido hoy por la polémica y los insultos. [...] [La polémica] consiste en considerar al adversario como un enemigo, en simplificarlo y, por tanto, en negarse a verlo”.

Hoy en día, los insultos de los que hablaba Camus se han convertido, gracias a la velocidad de transmisión, al alcance universal, a los costes irrisorios y a la anonimización propia de Internet, en auténticos diluvios de odio que arrasan con todo lo que encuentran a su paso. Con un nuevo azote que Camus no predijo: la difusión de las más descabelladas teorías conspirativas y anticientíficas. Y todo ello bajo la mirada complaciente de Facebook y sus afines, cuyos beneficios aumentan con los clics y likes que genera una publicación, sin importar su veracidad o cualquier otra consideración moral.

Aunque la tímida presión de varios gobiernos ha llevado a Facebook a retirar ciertos contenidos o bloquear a determinados usuarios, siempre con un retraso importante, su poder económico le permite esquivar los vientos en contra de su ADN empresarial.

Entonces, ¿qué soluciones nos atreveríamos a considerar? Desgraciadamente, las opciones no son numerosas y, lo que es peor, su aplicación supondría cuestionar ciertos principios fundacionales de Internet. Pensamos, por ejemplo, en las siguientes medidas:

· Abolición del anonimato.

· Una mayor regulación por parte de los Estados (obligación de revelar las fuentes, de corregir las informaciones falsas, etc.). Esta orientación no habría disgustado, sin duda, al intelectual italiano Umberto Eco, que planteó el problema de forma muy contundente: “Las redes sociales han dado el derecho a hablar a legiones de imbéciles que, antes, solo charlaban en el bar después de una copa de vino, sin causar daño a la comunidad. Se los silenciaba inmediatamente, mientras que hoy tienen el mismo derecho a hablar que un Premio Nobel. Esta es la invasión de los tontos”. Aparte de que la declaración, por muy lúcida que sea, sigue siendo arrogante, Eco no resuelve las cuestiones de fondo: ¿Cómo ponernos de acuerdo sobre los criterios universales para admitir y rechazar determinados discursos? ¿Qué organismos deberían estar facultados para definir estos criterios comunes, para arbitrar las disputas y, sobre todo, para “silenciar a los imbéciles” sin violar su libertad de expresión?

Autorregulación por parte de los propios proveedores o redes sociales, lo que presupone que están de acuerdo en aplicar medidas contrarias a sus intereses comerciales. Además, este enfoque podría tener el efecto perverso de aumentar la sensación de poder de los GAFAM, que podrían interpretar esta delegación como una nueva claudicación de los Estados.

De la visión altruista inicial, las GAFAM han pasado a transformar el mundo según sus propios intereses comerciales, añadiendo a su poder económico inmensas capacidades de transformación social, política y cultural. Si no reaccionamos rápida y enérgicamente contra los excesos provocados por semejante concentración de poder en una sola mano, corremos el riesgo de convertirnos en sus juguetes maleables, en cautivos voluntarios, sufriendo el síndrome de Estocolmo, agradeciendo a nuestros captores nuestro cautiverio. Entonces podría ser legítimo añadir la I de IBM, como propone la profesora Amy Webb, para rebautizar a los señores de GAFAM, a los que todos estaremos sometidos, con un nuevo acrónimo: G-MAFIA.

*Profesor emérito EPFL y HEIG-VD (Suiza)

El creciente y sofisticado uso de algoritmos de aprendizaje automático (machine learning) ha dado un peligroso salto adelante: el objetivo ya no es predecir nuestro comportamiento, sino producirlo realmente, por ejemplo induciéndonos suavemente a votar por un candidato político.

Internet nació en 1969, en una California donde miles de comunas reivindicaban los ideales libertarios de desconfianza en el Estado, autonomía, libertad de expresión y tolerancia. Las principales características de Internet son un reflejo de este espíritu: descentralización, libre acceso, ausencia de jerarquías y de control estatal, etc. Estas ideas calaron lógicamente entre los hackers que estaban detrás de las primeras start-ups de Silicon Valley, creadoras de productos que buscaban mejorar la humanidad gracias a unos pocos clics de ratón. Así, el primer eslogan de Google fue Don’t be evil, que podría traducirse como No seas malo.

Los intereses comerciales se impusieron rápidamente al altruismo y se adoptó un nuevo lema: Do the right thing (Haz lo correcto). Y lo considerado correcto fue rentabilizar al máximo los servicios “gratuitos” mediante la explotación comercial de los datos personales facilitados, voluntariamente o no, por los usuarios. Así, estos últimos se han convertido en la principal mercancía que vende Google. ¿Cómo funciona esto? En primer lugar, se identifica nuestro perfil para ofrecernos bienes y servicios relevantes, encerrándonos en un gueto en el que todo lo que no nos gusta está ausente. En segundo punto, el creciente y sofisticado uso de algoritmos de aprendizaje automático (machine learning) ha dado un peligroso salto adelante: el objetivo ya no es predecir nuestro comportamiento, sino producirlo realmente, por ejemplo induciéndonos suavemente a votar por un candidato político.

Una evolución similar han seguido los otros gigantes digitales conocidos por el acrónimo GAFAM (Google, Apple, Facebook, Amazon y Microsoft): todos ellos utilizan, en mayor o menor medida, nuestros datos personales con fines comerciales. Esto tiene fuertes consecuencias para las redes sociales, especialmente las de Facebook y sus filiales Whatsapp e Instagram. De hecho, originalmente considerados como refugios de la libertad, que lo siguen siendo, se han convertido en las principales herramientas de nuestras discusiones diarias, comercializando la transformación de nuestros diálogos en controversias. Como ya señaló Camus en el siglo pasado: “No hay vida sin diálogo. Y en la mayor parte del mundo, el diálogo ha sido sustituido hoy por la polémica y los insultos. [...] [La polémica] consiste en considerar al adversario como un enemigo, en simplificarlo y, por tanto, en negarse a verlo”.

Hoy en día, los insultos de los que hablaba Camus se han convertido, gracias a la velocidad de transmisión, al alcance universal, a los costes irrisorios y a la anonimización propia de Internet, en auténticos diluvios de odio que arrasan con todo lo que encuentran a su paso. Con un nuevo azote que Camus no predijo: la difusión de las más descabelladas teorías conspirativas y anticientíficas. Y todo ello bajo la mirada complaciente de Facebook y sus afines, cuyos beneficios aumentan con los clics y likes que genera una publicación, sin importar su veracidad o cualquier otra consideración moral.

Aunque la tímida presión de varios gobiernos ha llevado a Facebook a retirar ciertos contenidos o bloquear a determinados usuarios, siempre con un retraso importante, su poder económico le permite esquivar los vientos en contra de su ADN empresarial.

Entonces, ¿qué soluciones nos atreveríamos a considerar? Desgraciadamente, las opciones no son numerosas y, lo que es peor, su aplicación supondría cuestionar ciertos principios fundacionales de Internet. Pensamos, por ejemplo, en las siguientes medidas:

· Abolición del anonimato.

· Una mayor regulación por parte de los Estados (obligación de revelar las fuentes, de corregir las informaciones falsas, etc.). Esta orientación no habría disgustado, sin duda, al intelectual italiano Umberto Eco, que planteó el problema de forma muy contundente: “Las redes sociales han dado el derecho a hablar a legiones de imbéciles que, antes, solo charlaban en el bar después de una copa de vino, sin causar daño a la comunidad. Se los silenciaba inmediatamente, mientras que hoy tienen el mismo derecho a hablar que un Premio Nobel. Esta es la invasión de los tontos”. Aparte de que la declaración, por muy lúcida que sea, sigue siendo arrogante, Eco no resuelve las cuestiones de fondo: ¿Cómo ponernos de acuerdo sobre los criterios universales para admitir y rechazar determinados discursos? ¿Qué organismos deberían estar facultados para definir estos criterios comunes, para arbitrar las disputas y, sobre todo, para “silenciar a los imbéciles” sin violar su libertad de expresión?

Autorregulación por parte de los propios proveedores o redes sociales, lo que presupone que están de acuerdo en aplicar medidas contrarias a sus intereses comerciales. Además, este enfoque podría tener el efecto perverso de aumentar la sensación de poder de los GAFAM, que podrían interpretar esta delegación como una nueva claudicación de los Estados.

De la visión altruista inicial, las GAFAM han pasado a transformar el mundo según sus propios intereses comerciales, añadiendo a su poder económico inmensas capacidades de transformación social, política y cultural. Si no reaccionamos rápida y enérgicamente contra los excesos provocados por semejante concentración de poder en una sola mano, corremos el riesgo de convertirnos en sus juguetes maleables, en cautivos voluntarios, sufriendo el síndrome de Estocolmo, agradeciendo a nuestros captores nuestro cautiverio. Entonces podría ser legítimo añadir la I de IBM, como propone la profesora Amy Webb, para rebautizar a los señores de GAFAM, a los que todos estaremos sometidos, con un nuevo acrónimo: G-MAFIA.

*Profesor emérito EPFL y HEIG-VD (Suiza)