Pensadores 2020: El ansia de poder de las grandes empresas de tecnología

Aunque recién estamos empezando a entender los daños que las plataformas de internet causan a la salud pública, la privacidad y la competencia, pronto enfrentaremos una amenaza todavía más fundamental por parte de las grandes empresas de tecnología. En una época en la que las instituciones de la democracia liberal ya son débiles, Google, Facebook, Amazon y Microsoft están organizando un desafío para los gobiernos democráticamente electos, al ofrecer sus propios servicios como alternativa. (Más de nuestra serie de Pensadores: La directora de la Escuela de Negocios de Londres).

Aunque recién estamos empezando a entender los daños que las plataformas de internet causan a la salud pública, la privacidad y la competencia, pronto enfrentaremos una amenaza todavía más fundamental por parte de las grandes empresas de tecnología. En una época en la que las instituciones de la democracia liberal ya son débiles, Google, Facebook, Amazon y Microsoft están organizando un desafío para los gobiernos democráticamente electos, al ofrecer sus propios servicios como alternativa. (Más de nuestra serie de Pensadores: La directora de la Escuela de Negocios de Londres).

Esto representa un cambio significativo respecto del pasado. Hace apenas 20 años las empresas tecnológicas estadounidenses interactuaban poco con el gobierno federal, más allá de pagar impuestos. Los ingenieros creaban productos que empoderaban a los clientes y el gobierno los alentaba a avanzar.

Pero después de los ataques terroristas del 11 de septiembre de 2001 cambió la actitud del país respecto de la vigilancia. La comunidad de inteligencia estadounidense colaboró con las plataformas digitales líderes -comenzando con Google- para reunir enormes cantidades de datos personales que pudieran ser usados para evitar futuros ataques. Por otra parte, a partir de 2008, Google, Facebook y otros se convirtieron en herramientas indispensables para los políticos. La íntima relación de la industria de la tecnología con el gobierno del presidente Barack Obama la protegió del escrutinio, mientras perfeccionaba lo que Shoshana Zuboff, de la Escuela de Negocios de Harvard, llama “capitalismo de vigilancia”.

Mientras que el capitalismo industrial aplica la tecnología para manipular el ambiente, el capitalismo de vigilancia manipula el comportamiento humano. Sus especialistas convierten la experiencia humana en datos, crean muñecos de vudú digitales (dosieres), que representan a cada persona, y luego usan esas representaciones virtuales para fabricar y vender productos que predicen el comportamiento.

Estos productos han transformado el mercado de la publicidad, complementando la búsqueda por características demográficas con predicciones específicas para cada cliente potencial. Y los capitalistas de vigilancia líderes -Google, Facebook, Amazon y Microsoft- también usan los datos que recopilan para manipular los resultados de las búsquedas individuales, limitando las opciones disponibles para los consumidores y aumentando la probabilidad de que se comporten según lo predicho. Como sostiene Zuboff, el capitalismo de vigilancia amenaza tanto a la autonomía individual como a la viabilidad de las sociedades abiertas.

Velocidad...

La primera evidencia de que las plataformas en internet podían afectar el mundo real a escala de países -no solo de personas- llegó en 2016, cuando las campañas de desinformación en línea destacaron en el referéndum por el brexit del Reino Unido y la elección presidencial estadounidense. Desde entonces, las plataformas de internet han permitido la interferencia electoral en otros países y, sin ser conscientes de ello, influyeron sobre el genocidio en Birmania, el terrorismo en Nueva Zelanda, asesinatos masivos en Estados Unidos y Europa, y brotes de sarampión en países donde la enfermedad había sido previamente eliminada. Ahora se las usa regularmente para distribuir desinformación, fomentar el extremismo violento y polarizar a los electorados.

No creo que la intención de las plataformas de internet fuera permitir estos daños. Pero sus modelos de negocio, algoritmos y culturas internas llevaron a que resultaran inevitables. Como ciudadanos, todos tenemos que reconocer que las plataformas de internet ahora tienen tanto o más impacto sobre nuestras vidas que nuestros gobiernos. Cuando Facebook prohíbe imágenes del amamantamiento, sus usuarios no pueden apelar la decisión, incluso si viven en un país que protege constitucionalmente la expresión. Y cuando cambia sus políticas para permitir la publicidad falsa en las campañas políticas, básicamente está invitando a que se realicen más ataques contra nuestras elecciones y, con ello, contra la propia democracia.

Peor aún, las sociedades abiertas aún deben ocuparse de la primera oleada de daños desatada por las plataformas de internet. Las iniciativas más serias a la fecha -el Reglamento General de Protección de Datos de la Unión Europea y la Ley de Privacidad de los Consumidores de California- solo abordan una pequeña parte del problema. Los responsables de las políticas aún están empezando a entender el funcionamiento del capitalismo de vigilancia. Ni siquiera hay consenso sobre la amenaza que presenta este nuevo modelo económico, mucho menos un plan para neutralizar sus efectos nocivos.

Mientras tanto, Google, Facebook, Amazon y Microsoft ya han pasado a la siguiente etapa: habiendo perfeccionado el capitalismo de vigilancia, están en condiciones de lanzar iniciativas diseñadas para desplazar servicios provistos tradicionalmente por el gobierno. No son las primeras empresas en hacerlo, pero sus ambiciones y los medios a su disposición superan con mucho los de otros corsarios corporativos, como la industria de las prisiones con fines de lucro.

Cada una de las empresas de las plataformas líderes tiene una meta clara. Algunas son explícitas, como la misión de Google: “Organizar la información del mundo”, y el deseo de Facebook de unir al mundo en una única red. Otras se pueden inferir por su comportamiento: Amazon claramente quiere ser la columna vertebral de la economía y Microsoft, el socio tecnológico de empresas y gobiernos. En cada uno de esos casos el objetivo no declarado es el control. No satisfechas con los beneficios del capitalismo de vigilancia, que hoy está limitado por el tamaño del mercado publicitario, las empresas de las plataformas están pasándose agresivamente -y de manera desafiante, en algunos casos- a nuevos mercados.

Por ejemplo, Sidewalk Labs, una subsidiaria de la empresa controlante de Google, Alphabet, ofrece hacerse cargo de los servicios gubernamentales locales a cambio del control de los datos públicos y poder de decisión. Ya sea por diseño o por accidente, este modelo de negocios podría desplazar gradualmente las elecciones personales y reemplazar la democracia al nivel local con algoritmos.

De igual forma, con el lanzamiento planeado de su criptomoneda Libra, Facebook está tratando de competir con monedas de reserva como el dólar estadounidense y el euro. Aunque Libra inicialmente contaba con el apoyo de muchas empresas líderes de servicios financieros, su presentación generó una violenta reacción y muchos de esos socios la han abandonado. Pero independientemente de lo que ocurra con libra, Facebook seguirá desempeñando un papel gigantesco para socavar la democracia. Su abierta voluntad para facilitar la difusión de falsedades comprobadas, junto con la crítica de su director ejecutivo a una candidata presidencial demócrata líder (Elizabeth Warren), sugiere que la empresa no teme anteponer sus propios intereses a los del país.

Por su parte, Amazon actuó agresivamente para obtener contratos gubernamentales y proporciona una amplia gama de servicios de información a agencias federales y locales. Ha ofrecido productos de reconocimiento facial a agencias de las fuerzas del orden, como el Servicio de Inmigración y Control de Aduanas de Estados Unidos (ICE), incluso cuando esos programas actualmente sufren de sesgos implícitos contra las personas de color.

Amazon también está usando su línea Ring de timbres inteligentes para lograr acuerdos de cooperación con los departamentos locales de policía. Con la aprobación previa de los propietarios de las viviendas, los funcionarios de las fuerzas del orden pueden acceder a las transmisiones de video de Ring sin la orden de un juez. Los defensores de las libertades civiles y los expertos están comprensiblemente preocupados, porque cuando se las combina con tecnología de reconocimiento facial, las redes de timbres Ring permitirán nuevas formas de vigilancia, potencialmente inconstitucionales. Los periodistas también han descubierto que los acuerdos de Ring otorgan a Amazon una excesiva influencia sobre la forma en que las agencias del orden se comunican con el público.

Finalmente, las nuevas iniciativas de Microsoft son menos osadas, pero no necesariamente menos problemáticas. Por ejemplo, su trabajo en inteligencia artificial incluye aplicaciones que automatizarían la vigilancia policial. Al igual que con el reconocimiento facial, las primeras aplicaciones de vigilancia policial con inteligencia artificial han estado plagadas de sesgos implícitos. Independientemente de que sea resultado de mala ingeniería o preferencias del cliente, la verdad es que nadie ha encontrado todavía una solución al problema. Se encontraron sesgos algorítmicos en una amplia gama de aplicaciones, como programas que revisan currículos y solicitudes de créditos hipotecarios.

El tiempo se agota

Durante las dos últimas décadas, las plataformas líderes de internet aprovecharon la desregulación y los vacíos legales para construir empresas de alcance mundial y amasar una enorme riqueza. El éxito engendró arrogancia, especialmente en Facebook y Google: ambas desafiaron a los responsables de las políticas en contextos en que otras corporaciones no lo han hecho. Ambas inicialmente se negaron a enviar a sus directores ejecutivos a las primeras audiencias parlamentarias sobre interferencia electoral. Mark Zuckerberg, de Facebook, sistemáticamente evitó testificar ante los comités parlamentarios en Canadá y el Reino Unido, dos de los mayores mercados de Facebook. Cuando los ejecutivos de Facebook y Google comparecieron frente a los organismos de supervisión, a menudo se han mostrado reservados y evasivos.

Estas empresas ahora dominan nuestras vidas, a menudo en formas de las que ni siquiera nos damos cuenta. No han sido elegidas, no deben rendir cuentas y están reemplazando la autodeterminación y la toma de decisiones democráticas con procesos algorítmicos. Las sociedades abiertas no pueden permitir que las corporaciones se comporten de este modo. Como ciudadanos debemos exigir que nuestros gobiernos las hagan entrar en cintura mientras todavía tienen el poder para hacerlo.

Traducción al español por www.Ant-Translation.com

Copyright: Project Syndicate, 2019.

www.project-syndicate.org