Sobre las redes sociales aparte de su sostenibilidad futura -pues escribo mientras por diferentes razones miles de trabajadores salen de Twitter y Meta y quienes usamos sus servicios pensamos por dónde seguir la conversación-, la moderación de contenidos es el otro tema a seguir. En la ausencia de infraestructuras públicas, el gran potencial que internet ofrece a la expresión humana depende de empresas privadas y sus filtros automatizados y personales que deciden qué se publica y qué no. Por eso vale la pena hablar de la más reciente decisión de la Junta de Supervisión de Contenidos de Meta (Oversight Board) sobre un video musical que la policía británica pidió moderar.
A principios de 2022 la policía de Reino Unido solicitó a Meta (propietaria de Instagram y Facebook) bloquear el contenido relacionado con “Secrets Not Safe”, una canción de “drill” inglesa. La Policía se preocupaba porque podría generar más represalias violentas entre bandas de Londres -los contenidos incluían referencias a asesinatos en la ciudad por disputas entre bandas-. La plataforma debía sopesar esa legítima preocupación por la generación de violencia y el tratamiento de expresiones artísticas que nacen para manifestar desacuerdo y crítica.
En ese momento Meta revisó el contenido y con el contexto proporcionado por la Policía establecieron que había una “amenaza velada” porque la canción se refería a un tiroteo ocurrido en 2017. Con ese análisis Meta eliminó el video de Instagran (y cientos más al aplicar el filtro automatizado) por violar su política de Violencia e Incitación. Aún así, remitió el caso a la Junta para que revisara su decisión. Karisma, donde trabajo, presentó oportunamente una opinión sobre este caso indicando que Meta no debió retirarlo.
La música urbana nació como música barriada que tradicionalmente ha servido para que la juventud manifieste su descontento con la sociedad. El drill es un subgénero popular en Inglaterra caracterizado por un mayor grado de contenido violento -es primo del rap, del reggaetón y del trap-.
Que esta música debe verse bajo la óptica de la libertad artística y protegida como libertad de expresión, se relaciona con que es música protesta como explica Boaventura de Sousa Santos:
“Los artistas emergentes son aquellos que provienen de zonas coloniales, poblaciones afro, pueblos indígenas, mujeres explotadas, que poco a poco logran entrar en la cultura a través, por ejemplo, del hip hop. La cultura de la resistencia hoy está en estas manifestaciones… La resistencia hoy está en los raperos. La fuerza de la rabia, de la insurgencia contra una sociedad colonialista, sexista, racista e injusta viene de los artistas que le dan a todo ello una expresión de arte... Empiezan incluso a ser visibles, cruzando la línea, expresándose y dándose a conocer al otro lado… Para mí, ellos son los que producen la verdadera cultura del futuro. Son los que dan dignidad a la resistencia. Cuando hablamos de industrias culturales, hablamos de un universo total, y esa no es la realidad”.
En la música urbana las letras pueden tramitar batallas entre intérpretes que muy ocasionalmente trascienden al plano físico. En esa cultura se han desarrollado los “beefs” y “diss” que plantean controversias, disputas y rivalidades entre artistas que van desde simples dedicatorias negativas, tiraderas, hasta entrevistas con difamaciones y expresiones degradantes. Aunque hay casos graves en los que estos beefs han acabado en enfrentamientos con el uso de armas, la regla general es precisamente que se usa la música para tramitar el desacuerdo. En las palabras queda la violencia.
Debido a la particularidad de este género, la plataforma al moderar la canción se enfrenta a una forma de expresión artística pero sobre todo al tratamiento de contenidos que desde el arte nacen para expresar el desacuerdo y la crítica. Estos elementos deben ser protegidos en el marco de los sistemas políticos democráticos que garantizan y promueven las diferencias entre las personas y que en el caso concreto se ve además adobado con que la petición provenga de la Policía de la ciudad.
Que la solicitud provenga de la Policía no es menor por la relación que esta autoridad tiene con determinadas poblaciones que manifiestan su disidencia y rebeldía con el entorno. En un informe de 2021 de la organización FreeMuse sobre libertad de expresión artística esa organización indicó que documentó “casos de censura que afectan a 469 artistas, 289 obras de arte, eventos, y lugares de celebración. De los cuales, el 44% fueron cometidos por AUTORIDADES GUBERNAMENTALES”.
Al revisar el caso, la junta rechazó la decisión de Meta de retirar el contenido. La Junta -que es un tribunal privado creado por Meta para analizar sus procesos de moderación de contenidos a la luz de los derechos humanos- estableció que Meta en enero de 2022 no tuvo pruebas suficientes para concluir que la canción representara una amenaza creíble. Consideró que en ese contexto, el balance de las obligaciones de derechos humanos de la empresa le imponía valorar más la naturaleza artística del contenido.
La Junta estableció que el drill es muy popular entre jóvenes británicos negros. Mediante derechos de acceso a la información pública pidió datos a la policía sobre las solicitudes que hizo a las diferentes redes sociales y servicios de streaming para moderar música en Internet. De la información obtenida, la Junta estableció que de junio de 2021 a mayo de 2022 la policía hizo 286 solicitudes para revisar contenido musical: todas las peticiones fueron sobre drill. 255 terminaron en retiros y 21 fueron dirigidas a Meta, que bloqueó 14 de esos contenidos.
Con base en sus indagaciones la Junta llamó la atención sobre la relación de Meta con los gobiernos indicando que la encontró opaca y la información disponible, insuficiente. Indicó que frente a las solicitudes de la fuerza pública cuando piden moderar contenidos lícitos en función de las normas comunitarias, Meta debe hacer evaluaciones independientes, respetar el debido proceso y ser más transparente. Esto especialmente cuando se trata de expresiones artísticas de grupos minoritarios o marginados para los que el riesgo de sesgo cultural contra sus contenidos es mayor.
Otro elemento interesante de la revisión que hizo la Junta es que en estos casos -solicitudes de autoridades- que son decisiones de moderación que toman equipos especializados de Meta, y se llaman casos “escalados”, las personas usuarias no tienen la posibilidad de pedir apelación a la Junta y por tanto no tienen posibilidad alguna de revisión de su caso.
Entre las recomendaciones a Meta para evitar estos casos la Junta propone: crear un sistema estandarizado para solicitudes de moderación de contenidos de los agentes estatales -que deben explicar cómo se viola la política y entregar las pruebas-. Mejorar los informes de transparencia sobre estas solicitudes con datos que sirvan para que evalúe periódicamente sesgos sistémicos e implementar mecanismos para corregirlos. Ojalá Meta lo haga y otras redes la imiten.