Amnistía Internacional es criticada por usar imágenes de inteligencia artificial
En el mes de marzo, la ONG publicó un informe global de Derechos Humanos en el cual señaló su preocupación por la violencia asociada a las protestas sociales en Colombia.
La inteligencia artificial (IA) es una herramienta que, entre otras cosas, permite la generación de imágenes a partir de palabras clave y está en auge. No existen regulaciones con respecto a su uso ni advertencias a los internautas que ven los resultados. El caso más reciente que ha generado críticas involucra a Amnistía Internacional (AI).
Recientemente esa organización de defensa de los Derechos Humanos utilizó una herramienta de IA para promover sus informes en las redes sociales, incluidas fotos falsas de las protestas de 2021 en Colombia, que después fueron eliminadas.
Las imágenes, como la de una mujer que es arrastrada por agentes de policía, muestran las escenas de las protestas que se extendieron por Colombia en 2021, pero los internautas comenzaron a identificar en ellas algunas anomalías. Por un lado, los rostros de los manifestantes y la policía se encuentran suavizados y deformados, dando a la imagen un aura distópica y, por otro, la bandera tricolor que porta el manifestante tiene los colores de la bandera colombiana, amarillo, azul y rojo, pero en el orden equivocado. Además, el uniforme policial identificado está obsoleto.
A través de la investigación, Amnistía y algunos observadores documentaron cientos de casos de abusos contra los Derechos Humanos cometidos por la policía colombiana durante la ola de disturbios de 2021, entre ellos violencia, acoso sexual y tortura, señalando así su preocupación por las violencias que sufren migrantes venezolanos, defensores de Derechos Humanos y excombatientes de las Farc.
Para fotoperiodistas y estudiosos de los medios, el uso de imágenes generadas por IA podría socavar el propio trabajo de Amnistía y alimentar teorías de conspiración de la mano con la creciente aceptación de la necesidad de reforma y la creación de conciencia sobre el trabajo de la policía colombiana.
“Vivimos en una era altamente polarizada llena de noticias falsas, lo que hace que la gente cuestione la credibilidad de los medios. Y, como sabemos, la inteligencia artificial miente. ¿Qué tipo de credibilidad tienes cuando empiezas a publicar imágenes creadas por inteligencia artificial?”, dijo Juan Torres, fotoperiodista radicado en Bogotá, al medio británico The Guardian.
Le recomendamos: SDG Quality Tracker, una nueva herramienta para comprender datos y tomar decisiones
¿Qué dijo Amnistía Internacional sobre el uso de imágenes creadas con Inteligencia Artificial?
Al respecto, la ONG aceptó haber utilizado fotografías en informes anteriores, pero expresó que finalmente optó por utilizar las imágenes generadas por IA para proteger a los manifestantes de posibles represalias estatales. “Hemos eliminado las imágenes de las publicaciones en las redes sociales, ya que no queremos que las críticas por el uso de imágenes generadas por IA distraigan la atención del mensaje central en apoyo a las víctimas y sus llamados a la justicia en Colombia”, dijo Erika Guevara Rosas , directora para las Américas de Amnistía Internacional.
“Nos tomamos las críticas en serio y queremos continuar el compromiso para asegurarnos de comprender mejor las implicaciones y nuestro papel para abordar los dilemas éticos que plantea el uso de dicha tecnología”, agregó la directora.
Por su parte, representantes del gremio del fotoperiodismo en Colombia aseguraron que el uso de IA por parte de la organización representa un insulto a los fotoperiodistas que cubren las protestas. “El poder de un periodista es recrear la realidad y lo que ve, algo por lo que durante el paro nacional muchos reporteros, fotógrafos y camarógrafos arriesgaron sus vidas. Tengo un amigo que perdió un ojo. El uso de imágenes de IA no solo pierde esa realidad, sino que también pierde la conexión entre los periodistas y las personas”, concluyó Torres.
Le sugerimos leer: Francia Márquez en África: hito y oportunidad
La inteligencia artificial (IA) es una herramienta que, entre otras cosas, permite la generación de imágenes a partir de palabras clave y está en auge. No existen regulaciones con respecto a su uso ni advertencias a los internautas que ven los resultados. El caso más reciente que ha generado críticas involucra a Amnistía Internacional (AI).
Recientemente esa organización de defensa de los Derechos Humanos utilizó una herramienta de IA para promover sus informes en las redes sociales, incluidas fotos falsas de las protestas de 2021 en Colombia, que después fueron eliminadas.
Las imágenes, como la de una mujer que es arrastrada por agentes de policía, muestran las escenas de las protestas que se extendieron por Colombia en 2021, pero los internautas comenzaron a identificar en ellas algunas anomalías. Por un lado, los rostros de los manifestantes y la policía se encuentran suavizados y deformados, dando a la imagen un aura distópica y, por otro, la bandera tricolor que porta el manifestante tiene los colores de la bandera colombiana, amarillo, azul y rojo, pero en el orden equivocado. Además, el uniforme policial identificado está obsoleto.
A través de la investigación, Amnistía y algunos observadores documentaron cientos de casos de abusos contra los Derechos Humanos cometidos por la policía colombiana durante la ola de disturbios de 2021, entre ellos violencia, acoso sexual y tortura, señalando así su preocupación por las violencias que sufren migrantes venezolanos, defensores de Derechos Humanos y excombatientes de las Farc.
Para fotoperiodistas y estudiosos de los medios, el uso de imágenes generadas por IA podría socavar el propio trabajo de Amnistía y alimentar teorías de conspiración de la mano con la creciente aceptación de la necesidad de reforma y la creación de conciencia sobre el trabajo de la policía colombiana.
“Vivimos en una era altamente polarizada llena de noticias falsas, lo que hace que la gente cuestione la credibilidad de los medios. Y, como sabemos, la inteligencia artificial miente. ¿Qué tipo de credibilidad tienes cuando empiezas a publicar imágenes creadas por inteligencia artificial?”, dijo Juan Torres, fotoperiodista radicado en Bogotá, al medio británico The Guardian.
Le recomendamos: SDG Quality Tracker, una nueva herramienta para comprender datos y tomar decisiones
¿Qué dijo Amnistía Internacional sobre el uso de imágenes creadas con Inteligencia Artificial?
Al respecto, la ONG aceptó haber utilizado fotografías en informes anteriores, pero expresó que finalmente optó por utilizar las imágenes generadas por IA para proteger a los manifestantes de posibles represalias estatales. “Hemos eliminado las imágenes de las publicaciones en las redes sociales, ya que no queremos que las críticas por el uso de imágenes generadas por IA distraigan la atención del mensaje central en apoyo a las víctimas y sus llamados a la justicia en Colombia”, dijo Erika Guevara Rosas , directora para las Américas de Amnistía Internacional.
“Nos tomamos las críticas en serio y queremos continuar el compromiso para asegurarnos de comprender mejor las implicaciones y nuestro papel para abordar los dilemas éticos que plantea el uso de dicha tecnología”, agregó la directora.
Por su parte, representantes del gremio del fotoperiodismo en Colombia aseguraron que el uso de IA por parte de la organización representa un insulto a los fotoperiodistas que cubren las protestas. “El poder de un periodista es recrear la realidad y lo que ve, algo por lo que durante el paro nacional muchos reporteros, fotógrafos y camarógrafos arriesgaron sus vidas. Tengo un amigo que perdió un ojo. El uso de imágenes de IA no solo pierde esa realidad, sino que también pierde la conexión entre los periodistas y las personas”, concluyó Torres.
Le sugerimos leer: Francia Márquez en África: hito y oportunidad