Cuando las redes se convierten en un instrumento del terror

El viernes pasado, un hombre armado no solo asesinó a 50 personas e hirió a otras 40 en dos mezquitas de Christchurch, Nueva Zelanda, sino que se encargó de grabarlo en video y transmitirlo en vivo para que el mundo lo viera en las redes sociales. El tiroteo fue planeado cuidadosamente para volverse viral, explotando las falencias de las plataformas tecnológicas y la inclinación de la gente a quedarse mirando ante el horror. Estamos ante un escenario en el que las redes sociales se convierten fácilmente en instrumentos del terror y debemos preguntarnos qué hacer para combatirlo.

Las redes sociales y en especial las transmisiones vivo están atrayendo a personas que aprovechan toda la infraestructura tecnológica disponible para difundir mensajes de odio y material violento por todo el mundo, aprovechando los peores sesgos cognitivos de los usuarios. Cada vez que se produce un ataque viral, resurge la pregunta: ¿cómo controlar efectivamente la propagación de este tipo de contenido internet? ¿Dónde trazamos la línea entre la censura y la responsabilidad?

Plataformas como Facebook, Youtube y Reddit siguen teniendo enormes dificultades para controlar el contenido problemático que sus usuarios publican, y el alcance y la velocidad a la que se mueve complican la tarea. Mientras tanto, las instituciones encargadas de regular su funcionamiento se muestran reacias a establecer límites o no tienen las herramientas adecuadas para hacerlo, y aquí entran en juego difíciles preguntas sobre la libertad de expresión y la libre circulación de información en la red. Como le explicó Juan Diego Castañeda, investigador de la Fundación Karisma, a El Espectador, “regular las redes sociales para que sea absolutamente imposible que se suban contenidos ilegales con seguridad afectaría también contenidos legales y protegidos por la libertad de expresión”.

En medio de ese complejo panorama, personas como los responsables del ataque de Nueva Zelanda usan los medios a su alcance para amplificar su mensaje y atraer a una audiencia lo más grande posible. La masacre del viernes fue la tercera vez que un asesinato se transmite en vivo por Facebook. En 2015, un hombre subió un video hecho con un celular que lo mostraba disparando a dos periodistas de una cadena de televisión en Virginia, Estados Unidos. En 2017, otro hombre publicó una grabación en la que asesinaba a un transeúnte en Cleveland, y luego empezó a transmitir por Facebook Live mientras hablaba sobre el asesinato.

A pesar de contar con algoritmos y miles de revisores humanos para filtrar contenidos inapropiados, ahora sabemos que Facebook tardó 17 minutos en detener la transmisión del atacante de Christchurch, y no precisamente porque sus sistemas de alarma funcionaran, sino porque los alertaron las autoridades neozelandesas. Pero la situación no paró ahí. El video y millones de versiones de él comenzaron a regarse como pólvora por todo internet. Mucha gente vio sus redes bombardeadas con imágenes crudas de la matanza. Como lo señaló el periodista Drew Harwell en Twitter: “La masacre de Nueva Zelanda se transmitió en vivo por Facebook, se anunció en 8chan, se publicó en YouTube, se comentó en Reddit y se reflejó en todo el mundo antes de que las compañías tecnológicas pudieran reaccionar”. A pesar de los grandes esfuerzos que estas compañías dicen hacer para autorregularse y combatir el problema, es evidente que algo no está funcionando.

Ya hemos visto cómo las falencias de las redes sociales han ayudado a diseminar mensajes que fomentan desde la polarización y la desinformación hasta la limpieza étnica. ¿Cuánto tiempo más antes de que los esfuerzos de Facebook y compañía sigan siendo pañitos de agua insuficientes? El problema no se irá a ningún lado y se nos está saliendo de las manos.

¿Está en desacuerdo con este editorial? Envíe su antieditorial de 500 palabras a yosoyespectador@gmail.com.

El viernes pasado, un hombre armado no solo asesinó a 50 personas e hirió a otras 40 en dos mezquitas de Christchurch, Nueva Zelanda, sino que se encargó de grabarlo en video y transmitirlo en vivo para que el mundo lo viera en las redes sociales. El tiroteo fue planeado cuidadosamente para volverse viral, explotando las falencias de las plataformas tecnológicas y la inclinación de la gente a quedarse mirando ante el horror. Estamos ante un escenario en el que las redes sociales se convierten fácilmente en instrumentos del terror y debemos preguntarnos qué hacer para combatirlo.

Las redes sociales y en especial las transmisiones vivo están atrayendo a personas que aprovechan toda la infraestructura tecnológica disponible para difundir mensajes de odio y material violento por todo el mundo, aprovechando los peores sesgos cognitivos de los usuarios. Cada vez que se produce un ataque viral, resurge la pregunta: ¿cómo controlar efectivamente la propagación de este tipo de contenido internet? ¿Dónde trazamos la línea entre la censura y la responsabilidad?

Plataformas como Facebook, Youtube y Reddit siguen teniendo enormes dificultades para controlar el contenido problemático que sus usuarios publican, y el alcance y la velocidad a la que se mueve complican la tarea. Mientras tanto, las instituciones encargadas de regular su funcionamiento se muestran reacias a establecer límites o no tienen las herramientas adecuadas para hacerlo, y aquí entran en juego difíciles preguntas sobre la libertad de expresión y la libre circulación de información en la red. Como le explicó Juan Diego Castañeda, investigador de la Fundación Karisma, a El Espectador, “regular las redes sociales para que sea absolutamente imposible que se suban contenidos ilegales con seguridad afectaría también contenidos legales y protegidos por la libertad de expresión”.

En medio de ese complejo panorama, personas como los responsables del ataque de Nueva Zelanda usan los medios a su alcance para amplificar su mensaje y atraer a una audiencia lo más grande posible. La masacre del viernes fue la tercera vez que un asesinato se transmite en vivo por Facebook. En 2015, un hombre subió un video hecho con un celular que lo mostraba disparando a dos periodistas de una cadena de televisión en Virginia, Estados Unidos. En 2017, otro hombre publicó una grabación en la que asesinaba a un transeúnte en Cleveland, y luego empezó a transmitir por Facebook Live mientras hablaba sobre el asesinato.

A pesar de contar con algoritmos y miles de revisores humanos para filtrar contenidos inapropiados, ahora sabemos que Facebook tardó 17 minutos en detener la transmisión del atacante de Christchurch, y no precisamente porque sus sistemas de alarma funcionaran, sino porque los alertaron las autoridades neozelandesas. Pero la situación no paró ahí. El video y millones de versiones de él comenzaron a regarse como pólvora por todo internet. Mucha gente vio sus redes bombardeadas con imágenes crudas de la matanza. Como lo señaló el periodista Drew Harwell en Twitter: “La masacre de Nueva Zelanda se transmitió en vivo por Facebook, se anunció en 8chan, se publicó en YouTube, se comentó en Reddit y se reflejó en todo el mundo antes de que las compañías tecnológicas pudieran reaccionar”. A pesar de los grandes esfuerzos que estas compañías dicen hacer para autorregularse y combatir el problema, es evidente que algo no está funcionando.

Ya hemos visto cómo las falencias de las redes sociales han ayudado a diseminar mensajes que fomentan desde la polarización y la desinformación hasta la limpieza étnica. ¿Cuánto tiempo más antes de que los esfuerzos de Facebook y compañía sigan siendo pañitos de agua insuficientes? El problema no se irá a ningún lado y se nos está saliendo de las manos.

¿Está en desacuerdo con este editorial? Envíe su antieditorial de 500 palabras a yosoyespectador@gmail.com.