Están manipulando voces de periodistas de Caracol Televisión con IA para estafar
Advierten que las voces de algunos periodistas del canal están siendo manipuladas para estafar a los usuarios en internet. Tome precauciones.
En las últimas semanas se han conocido algunos casos de estafas con Inteligencia Artificial (IA) con la que se altera la voz y la imagen de presentadores como Jorge Alfredo Vargas, María Lucía Fernández y María Camila Roa. Uno de esos casos se presentó en abril de este año, cuando por Facebook circularon algunos videos de Noticias Caracol, manipulados con IA, sobre una falsa ley de inversión.
Como informó el portal Colombiacheck, en una parte del video se observaba una sesión del senado y al gerente del Banco de la República, Leonardo Villar, hablar de un programa de inversión que supuestamente ya ha utilizado la institución con importantes resultados y que “ha demostrado su capacidad para aportar beneficios financieros reales a todos los involucrados”. En la pieza, aparecen las periodistas Catalina Gómez y María Camila Roa, además del presidente de la corporación, Iván Name, y el senador Mauricio Gómez.
La Silla Vacía presentó el testimonio de una usuaria de Facebook, a quien le apareció un video de una aparente emisión de Noticias Caracol en la que el presentador Jorge Alfredo Vargas daba una noticia que prometía cambiar su vida económica y la de millones de colombianos: “El Senado debatió un proyecto de ley que obligaría al banco central a abrir el acceso a un programa de inversiones creado por Еlon Мusk”, afirma el presentador en el video que es falso.
Más adelante, en el mismo informativo, aparece Musk, dueño de empresas como X y Tesla, hablando de inversiones y negocios. Tanto Caracol Televisión como los senadores, cuya voz fue manipulada, advirtieron a los usuarios que no han comunicado la información que se ha viralizado en internet y advierten de las estafas.
La Silla Vacía aseguró que son varios los colombianos que han caído en esta nueva modalidad de estafa por medio de Facebook, con proyectos de inversión que prometen ganar grandes ganancias en pocos días. “Algunos ofrecen hasta $24 millones de ganancias en seis meses o la oportunidad de comprar una casa”, afirmaron en una nota publicada el pasado 13 de junio.
Una de las páginas de Facebook que difundió el video tenía el nombre “Tu oportunidad”, con fecha de creación el 18 de marzo y más de 600 seguidores. Además, el número telefónico registrado tenía un indicativo correspondiente a Estados Unidos y varios comentarios de usuarios asegurando que se trataba de una estafa.
La situación es preocupante, pues estos videos que se viralizan en redes sociales cuentan con miles de reproducciones, aunque los usuarios los reporten, e incluso adviertan sobre su falsedad.
Los desafíos de la IA y la desinformación
La Inteligencia Artificial (IA) es mucho más que una tecnología emergente; es una oportunidad presente para moldear el futuro en todos los ámbitos de la sociedad. Su capacidad para simular el pensamiento humano y realizar tareas complejas de manera autónoma está transformando nuestras vidas, desde la manera en que nos relacionamos emocionalmente hasta cómo innovamos y vendemos productos.
Sin embargo, también ha sido un tema controversial. La forma de controlar lo que puede hacer la IA ha resultado desafiante para varios sectores, y la línea entre lo que parece real y no lo es parece es cada vez más delgada. “La IA está absolutamente en todas partes, todo el tiempo. Ya sea en las reflexiones de la industria musical o en el arte. Es más visible que antes porque la tecnología se democratiza”, dijo a AFP Alexandre Lasch, del Sindicato Nacional de la Edición Fonográfica en Francia (SNEP).
La IA puede, por ejemplo, traducir un artículo falso a numerosos idiomas y publicarlo automáticamente en multitud de cuentas y páginas. Según Antibot4Navalny, la IA también permite que los bots no sean detectados por las instancias de moderación de las redes sociales, gracias a la multiplicación de mensajes de contenido similar pero no idénticos. Otra de las tácticas consiste en retransmitir masivamente artículos de prensa reales, pero acompañarlos de mensajes políticos.
“Como usuario, puedes tener la impresión de que estos puntos de vista son apoyados mayoritariamente por personas radicadas” en su país, “cuando no es necesariamente así”, desvela Alexandre Alaphilippe, director ejecutivo de la oenegé europea EU DisinfoLab.
En las últimas semanas se han conocido algunos casos de estafas con Inteligencia Artificial (IA) con la que se altera la voz y la imagen de presentadores como Jorge Alfredo Vargas, María Lucía Fernández y María Camila Roa. Uno de esos casos se presentó en abril de este año, cuando por Facebook circularon algunos videos de Noticias Caracol, manipulados con IA, sobre una falsa ley de inversión.
Como informó el portal Colombiacheck, en una parte del video se observaba una sesión del senado y al gerente del Banco de la República, Leonardo Villar, hablar de un programa de inversión que supuestamente ya ha utilizado la institución con importantes resultados y que “ha demostrado su capacidad para aportar beneficios financieros reales a todos los involucrados”. En la pieza, aparecen las periodistas Catalina Gómez y María Camila Roa, además del presidente de la corporación, Iván Name, y el senador Mauricio Gómez.
La Silla Vacía presentó el testimonio de una usuaria de Facebook, a quien le apareció un video de una aparente emisión de Noticias Caracol en la que el presentador Jorge Alfredo Vargas daba una noticia que prometía cambiar su vida económica y la de millones de colombianos: “El Senado debatió un proyecto de ley que obligaría al banco central a abrir el acceso a un programa de inversiones creado por Еlon Мusk”, afirma el presentador en el video que es falso.
Más adelante, en el mismo informativo, aparece Musk, dueño de empresas como X y Tesla, hablando de inversiones y negocios. Tanto Caracol Televisión como los senadores, cuya voz fue manipulada, advirtieron a los usuarios que no han comunicado la información que se ha viralizado en internet y advierten de las estafas.
La Silla Vacía aseguró que son varios los colombianos que han caído en esta nueva modalidad de estafa por medio de Facebook, con proyectos de inversión que prometen ganar grandes ganancias en pocos días. “Algunos ofrecen hasta $24 millones de ganancias en seis meses o la oportunidad de comprar una casa”, afirmaron en una nota publicada el pasado 13 de junio.
Una de las páginas de Facebook que difundió el video tenía el nombre “Tu oportunidad”, con fecha de creación el 18 de marzo y más de 600 seguidores. Además, el número telefónico registrado tenía un indicativo correspondiente a Estados Unidos y varios comentarios de usuarios asegurando que se trataba de una estafa.
La situación es preocupante, pues estos videos que se viralizan en redes sociales cuentan con miles de reproducciones, aunque los usuarios los reporten, e incluso adviertan sobre su falsedad.
Los desafíos de la IA y la desinformación
La Inteligencia Artificial (IA) es mucho más que una tecnología emergente; es una oportunidad presente para moldear el futuro en todos los ámbitos de la sociedad. Su capacidad para simular el pensamiento humano y realizar tareas complejas de manera autónoma está transformando nuestras vidas, desde la manera en que nos relacionamos emocionalmente hasta cómo innovamos y vendemos productos.
Sin embargo, también ha sido un tema controversial. La forma de controlar lo que puede hacer la IA ha resultado desafiante para varios sectores, y la línea entre lo que parece real y no lo es parece es cada vez más delgada. “La IA está absolutamente en todas partes, todo el tiempo. Ya sea en las reflexiones de la industria musical o en el arte. Es más visible que antes porque la tecnología se democratiza”, dijo a AFP Alexandre Lasch, del Sindicato Nacional de la Edición Fonográfica en Francia (SNEP).
La IA puede, por ejemplo, traducir un artículo falso a numerosos idiomas y publicarlo automáticamente en multitud de cuentas y páginas. Según Antibot4Navalny, la IA también permite que los bots no sean detectados por las instancias de moderación de las redes sociales, gracias a la multiplicación de mensajes de contenido similar pero no idénticos. Otra de las tácticas consiste en retransmitir masivamente artículos de prensa reales, pero acompañarlos de mensajes políticos.
“Como usuario, puedes tener la impresión de que estos puntos de vista son apoyados mayoritariamente por personas radicadas” en su país, “cuando no es necesariamente así”, desvela Alexandre Alaphilippe, director ejecutivo de la oenegé europea EU DisinfoLab.