Los riesgos en línea aumentan para los niños; la IA ayudaría a contrarrestarlos

Colombia se prepara para acoger en un mes la primera Conferencia para la Eliminación de la Violencia contra la Niñez, que tendrá lugar los días 6 y 7 de noviembre de 2024 en Bogotá. En este foro, 19 países de diferentes regiones, organizaciones internacionales, cooperantes, sociedad civil, sobrevivientes y filantropía, buscan consolidar una agenda global conjunta para hacer frente a un flagelo que vulnera los derechos de millones de niñas y niños en todo el mundo. Según Unicef, en 30 países con datos disponibles, seis de cada diez niños de un año están sometidos a algún tipo de disciplina violenta.

Colombia se prepara para acoger en un mes la primera Conferencia para la Eliminación de la Violencia contra la Niñez, que tendrá lugar los días 6 y 7 de noviembre de 2024 en Bogotá. En este foro, 19 países de diferentes regiones, organizaciones internacionales, cooperantes, sociedad civil, sobrevivientes y filantropía, buscan consolidar una agenda global conjunta para hacer frente a un flagelo que vulnera los derechos de millones de niñas y niños en todo el mundo. Según Unicef, en 30 países con datos disponibles, seis de cada diez niños de un año están sometidos a algún tipo de disciplina violenta.

Najat Maalla, representante especial de la Organización de las Naciones Unidas para la violencia contra la infancia, habló con El Espectador sobre las expectativas que tiene de este encuentro, en el que participarán representantes de empresas, entidades gubernamentales y organizaciones internacionales enfocadas en ciberseguridad, uno de los aspectos clave para abordar esta problemática.

Dada la complejidad de la infraestructura digital global, ¿cómo imagina la cooperación internacional para proteger a los niños de las amenazas cibernéticas transfronterizas?

Creo que lo importante aquí es volver al multilateralismo. El Foro Global de Ciberseguridad (GCF) fue interesante porque reunió a personas de diferentes antecedentes y regiones para discutir cómo podemos fomentar la cooperación bilateral y, a su vez, detectar amenazas para proteger a los niños, identificar a las víctimas y trabajar con la aplicación de la ley. Esto es muy importante, al igual que procesar y desmantelar el modelo de negocio de las redes criminales.

Sin embargo, para ser sincera, actualmente esto no está funcionando completamente. Nos enfrentamos a un mundo digital cada vez más complejo, y la situación no se vuelve más sencilla. Es fundamental encontrar un equilibrio: debemos asegurar la protección de los niños mientras garantizamos la privacidad de las personas. Al mismo tiempo, es crucial que la privacidad de los depredadores no prevalezca sobre la seguridad de los menores. Esto debe ser una prioridad constante.

Muchos de estos desafíos están relacionados con la cooperación y el monitoreo global. Actualmente, el Pacto Digital Global tiene un plan de implementación, pero será difícil aplicarlo a nivel global. Aun así, a nivel nacional y regional existen buenos ejemplos, como en Europa, Asia, África y América Latina, donde coaliciones regionales fuertes sitúan la protección infantil en el centro de la digitalización. Además, es vital que cuando los Estados aborden la protección infantil en línea, esta esté integrada en el marco general de la protección infantil, porque la violencia puede empezar en línea, trasladarse fuera de línea y luego volver al ámbito digital.

En su opinión, ¿cuáles son los impactos psicológicos y sociales a largo plazo en los niños que experimentan violencia o explotación en línea? ¿Y cómo debe la comunidad ayudar a sanar y reintegrar a estos niños?

Lo primero que debemos aclarar son las formas de violencia que los niños pueden enfrentar en línea. Es importante destacar los datos recientes que tenemos sobre la explotación sexual infantil en línea. Según un estudio de la Universidad de Edimburgo de 2024, más de 300 millones de niños al año están expuestos a la explotación sexual en línea. También hay un aumento en la extorsión sexual financiera dirigida a los niños, así como otras formas de violencia como el discurso de odio, el ciberacoso (con un 15% de niños víctimas), el daño autoinfligido y el grooming a través de juegos en línea.

Los impactos a largo plazo varían según la edad del niño y el tipo de violencia experimentada, pero generalmente incluyen trastornos de conducta, ansiedad, trastornos alimentarios, bajo rendimiento escolar y problemas de socialización. El mayor riesgo es cuando los niños son víctimas de explotación sexual en línea, ya que sus imágenes pueden permanecer en internet indefinidamente, lo cual es muy preocupante.

El ciberacoso, en particular, puede llevar a algunos niños al suicidio, lo que lo convierte en un problema aún más grave. Aunque no minimizo las oportunidades educativas que el mundo digital ofrece a los niños, los riesgos están aumentando, especialmente con el avance de la inteligencia artificial (IA). En una reciente reunión en Arabia Saudita se discutió la importancia de la acción colectiva entre estados, formuladores de políticas, el sector de las TIC y la sociedad civil para garantizar que la protección infantil en línea esté en el corazón de la ciberseguridad.

¿Cómo pueden aprovecharse tecnologías emergentes como la inteligencia artificial para detectar el abuso en línea en tiempo real y prevenir la explotación infantil en el futuro?

Lo importante aquí es la inteligencia artificial (IA) y otros mecanismos, principalmente la IA. Solo quiero recordarte que estos crímenes y la violencia están facilitados por la tecnología, así que la respuesta también puede ser tecnológica. Esto es muy importante, y tenemos muchos buenos ejemplos de cómo se utiliza la IA; por ejemplo, el PhotoDNA, que detecta muy temprano algunas imágenes que podrían ser dañinas y puede eliminarlas rápidamente. Antes de que se distribuyan, las agencias de aplicación de la ley pueden utilizar esta tecnología para detectar a las víctimas y reconocer imágenes.

Además, actualmente hay plataformas sociales que utilizan IA para brindar apoyo y conectar a los niños con los servicios de protección infantil, permitiéndoles reportar situaciones y acceder a orientación y apoyo psicológico. Cada vez más, la IA se integra en herramientas y plataformas de juego como Minecraft, que está en mente porque mi nieto juega mucho en él. Esto es importante porque actualmente están produciendo herramientas realmente útiles para los niños, los cuidadores y los maestros, ayudando a los niños a protegerse a sí mismos y reconocer los peligros.

Sin embargo, el problema es que no está sistematizado, y las plataformas pequeñas y medianas no se benefician de todos estos avances.

¿Cómo puede integrarse mejor la educación digital en los currículos escolares para enseñar a los niños a navegar de manera segura en el ciberespacio?

Creo que este es un tema que estamos promoviendo en cuanto a empoderar a los niños y sus habilidades digitales, no solo para saber cómo navegar y reaccionar, sino que también tenemos ejemplos maravillosos en todo el mundo, donde los niños y los jóvenes están liderando iniciativas respecto a aplicaciones que pueden proporcionar apoyo entre pares y detectar el acoso y el ciberacoso. Están haciendo mucho.

Así que creo que lo importante es cómo entrenar a los niños, pero también capacitar a los maestros, porque están quedando atrás. También es fundamental formar a los cuidadores porque necesitamos tener ambos. Al mismo tiempo, debemos pensar en cómo podemos involucrar a los niños en una participación ética, segura y significativa en la respuesta y prevención, porque están muy bien documentados en este sentido. Pero, al mismo tiempo, necesitan estar muy conscientes.

Mi pregunta aquí es que tenemos que tener cuidado de no poner la carga solo sobre los hombros de los niños o de sus cuidadores, ya que el sector de las TIC tiene un papel importante al respecto. Por eso hemos estado abogando durante muchos años, incluso dentro del Pacto Digital Global, para asegurar que la seguridad infantil y la privacidad por diseño y por defecto estén en su lugar. Es demasiado fácil reaccionar después de que ocurren los problemas. Sabemos que tenemos muchas soluciones, pero también creo que es importante que el sector de las TIC y la inteligencia artificial, incluidos, realmente implementen esto. Esto es muy, muy importante.

¿Qué papel puede desempeñar el gobierno colombiano en los desafíos de protección infantil?

El gobierno de Colombia está organizando, como saben, con nosotros, con UNICEF, mi mandato y el gobierno de Suecia, esta enorme primera conferencia ministerial de alto nivel sobre el fin de la violencia contra los niños en todos los entornos, incluidos los en línea. Será un evento de varios días e involucrará a todos los responsables de políticas, así como a todos los actores relevantes de diversos antecedentes, incluyendo el sector de las TIC, pero también la aplicación de la ley, la salud, la educación y, por supuesto, los propios niños. El objetivo es ver cómo podemos avanzar realmente, no solo teniendo compromisos, sino también pensando de manera innovadora para construir puentes y conectar a las personas que trabajan en estos temas. Esto es muy importante.

Además, la economía presenta un reciente análisis que es muy favorable. Visité Colombia en 2019 y estoy en contacto con ellos siguiendo la implementación de la Agenda 2030, trabajando de cerca con muchos, principalmente aquellos que están familiarizados, porque son líderes en la lucha contra la violencia infantil. Recientemente tuvimos un taller técnico en Ginebra, y Colombia asistió. Están haciendo mucho en cuanto a la protección infantil, tanto en línea como fuera de línea. Sin embargo, todos los países, incluso los más ricos, enfrentan muchos desafíos porque el problema de la protección infantil es tan transversal y abarca tantos sectores.

No será posible implementar todas estas prácticas prometedoras si no se ve como una inversión, y debe contar con el apoyo de los responsables de políticas de alto nivel, incluidos Primeros Ministros y Presidentes, para asegurarse de que también se incluya en los presupuestos nacionales y locales.

En países como Colombia, con infraestructura limitada, ¿cómo podemos extender la protección de los niños contra el abuso en línea?

Tengo muchas expectativas y espero que, en mi propia opinión, no se trate de tener muchas declaraciones, sino de avanzar realmente hacia un diálogo sincero y profundo entre todas estas personas, y ver cómo podemos invertir en la protección infantil. Esto estará en el contexto y podremos contactar de manera específica cómo podemos fortalecer el compromiso de este país y cómo podemos acelerar todos estos compromisos hechos. En 2013, hace menos de seis años, debemos cumplir nuestra promesa de poner fin a todas las formas de violencia en todos los entornos.

Lo más importante para mí será un momento clave para reunir a todas las personas y realmente compartir sus aprendizajes, construir puentes, conectar a las personas y ver cómo podemos escalar todas estas prácticas prometedoras. Invertir en la protección infantil es clave para el desarrollo central de las personas y no debemos ver el problema como algo que resolver, sino como un activo en el que invertir. Esto es muy importante.

Y otro punto para mí no es solo Bogotá en sí misma, sino cómo vamos a seguir adelante. Solo para que lo sepan, también está conectado porque después de la conferencia de Bogotá, tendremos la red global de religiosos por los niños en todo el mundo, que se llevará a cabo durante una semana sobre premios seguros, sostenibles y seguros para y con los niños. Cuando todos los líderes religiosos a nivel mundial, no solo a nivel global, sino aquellos que trabajan a nivel de base, así como a nivel nacional y regional, estarán a bordo para asegurarse de que se les considere una herramienta y no para utilizar la religión o las tradiciones para justificar la violencia contra los niños en todas sus formas. Así que esto está en marcha y están pensando en el Pacto por el Futuro y el Pacto Digital.

Tenemos muchas herramientas; el problema es cómo vamos a implementarlas y asegurarnos de que estamos haciendo que todos estos responsables de políticas y todos los tomadores de decisiones rindan cuentas ante los niños.

📧 📬 🌍 Semana a semana tendremos un resumen de las noticias que nos harán sentir que No es el fin del mundo. Si desea inscribirse y recibir todos los lunes nuestro newsletter, puede hacerlo en el siguiente enlace.

👀🌎📄 ¿Ya se enteró de las últimas noticias en el mundo? Invitamos a verlas en El Espectador.

Si le interesa algún tema internacional, quiere enviarnos una opinión sobre nuestro contenido o recibir más información, escríbanos al correo mmedina@elespectador.com o aosorio@elespectador.com