UNESCO advierte nuevos desafíos de la IA en la investigación sobre el Holocausto
Un reciente informe emitido por la UNESCO, publicado conjuntamente con el Congreso Judío Mundial, examina los peligros y retos que la inteligencia artificial presenta para la interpretación y conservación de la historia del Holocausto.
El informe de la UNESCO, titulado “AI and the Holocaust: rewriting history?”, destaca cinco principales preocupaciones relacionadas con la IA y el Holocausto: contenido inventado; falsificación de evidencia; propagación de discurso de odio; sesgo algorítmico y la simplificación de la historia.
La inteligencia artificial ha revolucionado numerosos aspectos de nuestra vida diaria, desde la búsqueda de información hasta la generación de contenido creativo. Sin embargo, su integración en el ámbito educativo y de investigación presenta riesgos, especialmente cuando se trata de temas delicados como el Holocausto.
Estos riesgos deben abordarse para proteger la memoria del Holocausto del abuso, la negación y la distorsión, y evitar que la IA amplifique el aumento, el alcance y el impacto de la ideología antisemita en la esfera digital. La IA puede ser utilizada para propagar contenido que niega la existencia del Holocausto o minimiza su impacto, lo que puede llevar a una pérdida de confianza en las fuentes históricas auténticas.
Riesgos
Debido a la capacidad de los modelos de IA para generar texto y narrativas, pueden producir contenido falso o incorrecto sobre el Holocausto. La falta de alfabetización en IA y habilidades de investigación puede llevar a que los usuarios acepten este contenido sin cuestionarlo, permitiendo la creación y difusión de “evidencias” falsas que niegan o minimizan el impacto del Holocausto.
Por otra parte, la tecnología de deepfakes permite manipular audio y video para crear contenido engañoso. En el contexto del Holocausto, esto puede manifestarse en falsificaciones que simulan declaraciones de figuras históricas o crean “pruebas” ficticias, dificultando la identificación de la verdad histórica y facilitando la propagación de ideologías antisemitas.
También, existe preocupación frente a la propagación de discurso de odio, pues según el informe, grupos extremistas pueden aprovechar las fallas en la moderación de IA para difundir contenido de odio y antisemitismo. Los chatbots y motores de búsqueda manipulados pueden diseminar ideología nazi, lo que intensifica el discurso de odio y la violencia en línea.
Por otra parte, resalta el tema del sesgo algorítmico. Los conjuntos de datos sesgados pueden llevar a que las herramientas de IA minimicen o distorsionen hechos sobre el Holocausto. Finalmente, se menciona que la IA tiende a simplificar la complejidad histórica, enfocándose en aspectos más conocidos y omitiendo episodios menos divulgados.
Desafíos en la era de la IA generativa
Otro informe amplía esta preocupación, pues menciona que los estudiantes y jóvenes, quienes usan cada vez más la IA para aprender e investigar, corren el riesgo de encontrarse con información distorsionada sobre el Holocausto. Estas herramientas corren el riesgo de amplificar prejuicios presentes en los datos con los que se entrena, perpetuando la desinformación y reforzando los prejuicios antisemitas. Además, la capacidad de la IA para crear testimonios falsos y manipular registros históricos pone en peligro la integridad de la información educativa y de investigación.
Según las organizaciones, para abordar estos desafíos y proteger la memoria del Holocausto, es crucial implementar varias estrategias.
“Es urgente aplicar la Recomendación de la UNESCO sobre la ética de la IA para que las generaciones más jóvenes crezcan con hechos, no con invenciones” detalló Audrey Azoulay, directora general de la UNESCO en un comunicado.
La UNESCO recomienda que los gobiernos aceleren la implementación de la Recomendación sobre la ética de la IA, adoptada en 2021. Esta normativa debe integrarse en la legislación para garantizar que la IA sea utilizada de manera responsable y respetuosa con los derechos humanos. También se menciona que las empresas tecnológicas deben aplicar principios de equidad, transparencia y diligencia en el desarrollo de IA.
Finalmente, se resalta la importancia de que los diseñadores de IA colaboren con expertos en historia y antisemitismo para crear herramientas que respeten la verdad histórica y minimicen el riesgo de distorsión. Además, se recalca que los sistemas educativos deben enfocarse en dotar a los jóvenes con habilidades de alfabetización digital y pensamiento crítico.
El informe de la UNESCO, titulado “AI and the Holocaust: rewriting history?”, destaca cinco principales preocupaciones relacionadas con la IA y el Holocausto: contenido inventado; falsificación de evidencia; propagación de discurso de odio; sesgo algorítmico y la simplificación de la historia.
La inteligencia artificial ha revolucionado numerosos aspectos de nuestra vida diaria, desde la búsqueda de información hasta la generación de contenido creativo. Sin embargo, su integración en el ámbito educativo y de investigación presenta riesgos, especialmente cuando se trata de temas delicados como el Holocausto.
Estos riesgos deben abordarse para proteger la memoria del Holocausto del abuso, la negación y la distorsión, y evitar que la IA amplifique el aumento, el alcance y el impacto de la ideología antisemita en la esfera digital. La IA puede ser utilizada para propagar contenido que niega la existencia del Holocausto o minimiza su impacto, lo que puede llevar a una pérdida de confianza en las fuentes históricas auténticas.
Riesgos
Debido a la capacidad de los modelos de IA para generar texto y narrativas, pueden producir contenido falso o incorrecto sobre el Holocausto. La falta de alfabetización en IA y habilidades de investigación puede llevar a que los usuarios acepten este contenido sin cuestionarlo, permitiendo la creación y difusión de “evidencias” falsas que niegan o minimizan el impacto del Holocausto.
Por otra parte, la tecnología de deepfakes permite manipular audio y video para crear contenido engañoso. En el contexto del Holocausto, esto puede manifestarse en falsificaciones que simulan declaraciones de figuras históricas o crean “pruebas” ficticias, dificultando la identificación de la verdad histórica y facilitando la propagación de ideologías antisemitas.
También, existe preocupación frente a la propagación de discurso de odio, pues según el informe, grupos extremistas pueden aprovechar las fallas en la moderación de IA para difundir contenido de odio y antisemitismo. Los chatbots y motores de búsqueda manipulados pueden diseminar ideología nazi, lo que intensifica el discurso de odio y la violencia en línea.
Por otra parte, resalta el tema del sesgo algorítmico. Los conjuntos de datos sesgados pueden llevar a que las herramientas de IA minimicen o distorsionen hechos sobre el Holocausto. Finalmente, se menciona que la IA tiende a simplificar la complejidad histórica, enfocándose en aspectos más conocidos y omitiendo episodios menos divulgados.
Desafíos en la era de la IA generativa
Otro informe amplía esta preocupación, pues menciona que los estudiantes y jóvenes, quienes usan cada vez más la IA para aprender e investigar, corren el riesgo de encontrarse con información distorsionada sobre el Holocausto. Estas herramientas corren el riesgo de amplificar prejuicios presentes en los datos con los que se entrena, perpetuando la desinformación y reforzando los prejuicios antisemitas. Además, la capacidad de la IA para crear testimonios falsos y manipular registros históricos pone en peligro la integridad de la información educativa y de investigación.
Según las organizaciones, para abordar estos desafíos y proteger la memoria del Holocausto, es crucial implementar varias estrategias.
“Es urgente aplicar la Recomendación de la UNESCO sobre la ética de la IA para que las generaciones más jóvenes crezcan con hechos, no con invenciones” detalló Audrey Azoulay, directora general de la UNESCO en un comunicado.
La UNESCO recomienda que los gobiernos aceleren la implementación de la Recomendación sobre la ética de la IA, adoptada en 2021. Esta normativa debe integrarse en la legislación para garantizar que la IA sea utilizada de manera responsable y respetuosa con los derechos humanos. También se menciona que las empresas tecnológicas deben aplicar principios de equidad, transparencia y diligencia en el desarrollo de IA.
Finalmente, se resalta la importancia de que los diseñadores de IA colaboren con expertos en historia y antisemitismo para crear herramientas que respeten la verdad histórica y minimicen el riesgo de distorsión. Además, se recalca que los sistemas educativos deben enfocarse en dotar a los jóvenes con habilidades de alfabetización digital y pensamiento crítico.