Algoritmos y salud mental

En 1987 se publicó en Francia el libro El suicidio: un estudio en sociología, escrito por Émile Durkheim. En su obra, Durkheim argumenta que atribuir el suicidio a fracasos individuales o problemas congénitos es un enfoque equivocado. Para él, el suicidio a menudo se determina por causas sociales.

En su momento, Durkheim observó que la industrialización aumentaba las tasas de suicidio al fomentar la atomización social, un fenómeno que debilitaba la cohesión comunitaria y provocaba una condición que denominó “anomia”. Esta anomia generaba un desdén por la vida, lo cual llevaba al suicidio.

A pesar de lo sombrío de su tesis, Durkheim mantenía un cierto optimismo. Creía que, una vez identificados el problema y sus causas, sería solo cuestión de tiempo antes de que se implementaran políticas adecuadas para combatir la anomia.

Dado que el origen del suicidio, según su análisis, está en la anomia y esta tiene raíces sociales, Durkheim razonaba que la solución también debía ser de carácter social. Sin embargo, en retrospectiva, esto no se materializó como él esperaba.

No obstante, su enfoque sentó las bases para muchas de las teorías contemporáneas sobre políticas de salud mental, perspectivas que en su época hubieran sido inimaginables.

El problema con el enfoque de estas políticas públicas es que siguen depositando la responsabilidad final en el individuo. Se parte de la premisa de que, si se medica al individuo, se resuelve el problema. Las causas subyacentes no se abordan; solo se mitigan las consecuencias mediante fármacos o intervenciones psico-conductuales. Una de estas causas, que ha amplificado la anomia social, es la aparición de un nuevo actor: las redes sociales.

En 2017, Molly Rusted, una joven inglesa de 14 años, se quitó la vida. Tras su muerte, su familia revisó sus redes sociales y encontró que su feed (las publicaciones sugeridas por el algoritmo) estaba lleno de imágenes y videos sobre depresión, autolesiones y suicidio.

Molly interactuaba con publicaciones que contenían frases de autodesprecio o apología del suicidio, marcándolas con “Me gusta”. Esto llevó a que el algoritmo le sugiriera más contenido similar. Al revisar su actividad en Twitter, Instagram y Pinterest, todo apuntaba a un mismo patrón.

Las empresas involucradas fueron llevadas a juicio: algunas aceptaron su culpabilidad, mientras que otras guardaron silencio. Este caso pone de manifiesto que, entre las diversas causas de la depresión en jóvenes, los algoritmos de las redes sociales son un factor que merece atención.

Teniendo esto en cuenta, las soluciones deberían centrarse en la revisión de los algoritmos de estas grandes compañías tecnológicas. No se trata de exigir que revelen sus líneas de código, sino de que asuman la responsabilidad de evitar la propagación de contenidos que fomenten el suicidio.

Soluciones hay muchas; por ejemplo, que cuando los algoritmos detecten la interacción de jóvenes con este tipo de contenido, ofrezcan información sobre programas estatales de apoyo en salud mental. Dicha publicidad debería ser gratuita: la plataforma no debería cobrar por su difusión. Porque ningún negocio es más importante que la vida de nuestros jóvenes.

Nota del editor: En este enlace se pueden encontrar líneas de atención gratuita para casos de salud mental e ideación suicida en cada departamento del país.