El Estado Colombiano utiliza más de 200 herramientas de Inteligencia Artificial

En el anuncio de los premios Nobel de esta semana, hubo un elemento que la Real Academia de las Ciencias de Suecia decidió destacar: el desarrollo o uso de Inteligencia Artificial (IA). Tanto para el caso del galardón de Física y de Química, el desarrollo de herramientas de IA— una tecnología que permite a las máquinas simular el aprendizaje, la resolución de problemas y, entre otros, la creatividad humana— fue determinante para los avances en estos campos.

En el anuncio de los premios Nobel de esta semana, hubo un elemento que la Real Academia de las Ciencias de Suecia decidió destacar: el desarrollo o uso de Inteligencia Artificial (IA). Tanto para el caso del galardón de Física y de Química, el desarrollo de herramientas de IA— una tecnología que permite a las máquinas simular el aprendizaje, la resolución de problemas y, entre otros, la creatividad humana— fue determinante para los avances en estos campos.

Este reconocimiento al impacto de la IA no llegó, sin embargo, sin reparos. Por ejemplo, Geoffrey Hinton, ganador del Nobel de Física por el desarrollo de una herramienta pionera de IA capaz de identificar patrones de información y “autoenseñarse”, ha sido una de las voces más críticas de la implementación, sin control, de esta tecnología. De hecho, luego de trabajar durante una década en Google en esta área, renunció para hablar libremente sobre los riesgos del desarrollo agresivo de productos basados en la IA generativa.

“Creo que tendrá una enorme influencia. Será comparable a la Revolución Industrial. Pero en vez de superar a la gente en fuerza física, la superará en capacidad intelectual”, indicó Hinton en declaraciones públicas tras recibir el premio. “Me preocupa que la consecuencia general de esto sean sistemas más inteligentes que nosotros que acaben tomando el control”.

De acuerdo con Hinton, los sistemas de IA podrían alcanzar los 100 billones de conexiones (las mismas que el cerebro humano) en solamente cinco años.

A pesar de que pueda sonar como una advertencia lejana, las herramientas de IA se han integrado rápidamente, en los últimos años, en la vida cotidiana y está remodelando el mundo en todas, o al menos una gran mayoría, de las facetas de nuestra sociedad. Su influencia diaria se observa en asistentes virtuales, software de traducción instantánea y, entre otras aplicaciones, en vehículos autónomos.

De esta fuerte influencia de estas herramientas no están exentos los Estados, entre los que está colombiano. Como lo explica Juan David Gutiérrez, profesor asociado de la Escuela de Gobierno de la Universidad de los Andes e investigador de la IA en la región, Colombia es los países cuyo sector público más utiliza herramientas de este tipo en la región.

“Colombia está entre los tres de los países latinoamericanos que más usan IA, junto a Brasil y Chile, para la toma de decisiones y para automatizar procesos. No hay sector que no utilice la IA, pero estas se concentran sobre todo en los sectores justicia, ambiente y el servicio público”, indica Gutiérrez, quien, junto a colegas, espera presentar a finales de año un informe sobre el uso de IA por parte de entidades públicas de la región.

Para llegar a este panorama, este grupo de investigadores se ha basado en la información pública disponible y en derechos de petición formulados a las entidades públicas. En total han identificado más de 200 sistemas de IA que se utilizan en alrededor de 60 entidades públicas del país. “Ha sido un proceso difícil en algunos aspectos, pues hay muy poca información sobre los costos que está teniendo esta tecnología y si esta inversión está rindiendo sus frutos”, menciona Gutiérrez.

Solo en el caso de Bogotá, El Espectador pudo conocer que el Distrito está invirtiendo en 15 proyectos de datos y IA para automatizar procesos y servicios ciudadanos, optimizar el uso del agua y mejorar la seguridad, entre otras iniciativas.

“Bogotá ha adoptado tecnologías emergentes como la inteligencia artificial y la analítica de datos para optimizar la toma de decisiones en áreas clave como la salud, la educación, la movilidad, la seguridad y el transporte público, la cultura, el desarrollo económico, entre otras áreas”, explica Miguel Silva, secretario general de la Alcaldía de Bogotá, quien precisa que la IA se está utilizando para mejorar la eficiencia en la gestión pública y abordar de manera efectiva problemáticas de interés público.

Una duda que surge en este punto es quién, en una industria marcada por poca tener competencia, está construyendo estas herramientas. De acuerdo con los investigadores de la Universidad de Los Andes, se trata de desarrollos propios de las entidades del Estado, que contratan a terceros para la creación de estas herramientas.

“Lo cierto es que sí, la IA está participando en decisiones y esto no está mal, pues la máquina opera de acuerdo con las reglas que le dé su desarrollador. En el caso de Colombia, sobre todo en la rama judicial, son herramientas que son construidas de acuerdo con las reglas y funciones que ha pedido cada entidad”, explica Gutiérrez.

El surgimiento de los chatbots

Los chatbots, cuyo referente más conocido es ChatGPT, ha sido una de las principales formas en las que el Estado ha implementado la inteligencia artificial del país.

“Hemos notado un aumento significativo en los chatbots, sobre todo en algunas alcaldías en los últimos años, al punto de representar el 25 % de las herramientas de IA en el sector público. Estos tiene el objetivo de ofrecer información, pero también captarla, sobre todo en procesos de participación pública”, explica Gutiérrez, de la Universidad de los Andes.

Un ejemplo de esto es Chatico, lanzado durante la administración de Claudia López, el cual, para septiembre de 2024, ha atendido más de 3.648.000 conversaciones. Por su parte, en la administración actual se utilizó como una herramienta clave para facilitar la participación ciudadana en la construcción del Plan Distrital de Desarrollo Bogotá.

“A través de Chatico, los habitantes de Bogotá pudieron enviar propuestas, participar en encuestas y hacer consultas sobre las iniciativas del plan. Gracias a la inteligencia artificial fue posible procesar cerca de 148.000 aportes de más de 41.000 personas. Lo significativo de este ejercicio es que más del 80 % de las personas nunca había participado en este tipo de procesos antes, lo que demuestra el potencial de las tecnologías para incluir a sectores tradicionalmente excluidos”, asegura Silva, secretario general de la Alcaldía de Bogotá.

Pero, ¿existe algún riesgo por el aumento de la IA en el sector público y la forma como los ciudadanos interactúan con el Estado? Uno de los desafíos, a los ojos de los investigadores de la U. de Los Andes, es que dos de cada tres de estas herramientas manejan datos personales de los ciudadanos.

“No es malo que lo hagan, pero el Estado tiene que ser muy cuidadoso en cómo protege estos datos, pues si son expuestos se trata de un gran riesgo. No es claro como la Procuraduría ha hecho algo al respecto para proteger la privacidad de esos datos de los colombianos”, señala Gutiérrez.

Desde la Alcaldía de Bogotá indican que, en su caso, tienen lineamientos para realizar las evaluaciones de impacto a la privacidad. “En la práctica, esto quiere decir que en todo proyecto en el que medie el uso de tecnologías digitales para la recolección y el tratamiento de datos personales, el sujeto responsable del tratamiento debe de hacer una evaluación del impacto, ante el uso y finalidad de la información a tratar y debe de establecer los riesgos y su forma de mitigación”, dice Silva.

Por su parte, otro aspecto para tener en cuenta, como explica, Camilo Rocha, decano de la Facultad de Ingeniería y Ciencias de la Universidad Javeriana, “es la posible huella de carbono que tiene el desarrollo e implementación de estas tecnologías. No siempre está tenido en cuenta en estas discusiones”

De acuerdo con un estudio reciente de la Universidad de California, se estima que mantener los servidores de un chatbot de IA lo suficientemente fríos para funcionar tiene un alto costo ambiental, por el uso de agua. Se calcula que, por ejemplo, generar un correo electrónico de 100 palabras generado por IA consumo una botella de agua.

El desorden legislativo

Mientras todo esto ocurre, el país intenta avanzar en los aspectos regulatorios. Como lo contamos hace unas semanas, en el país se está tratando de construir un Conpes de IA que deja varias dudas para algunos sectores de la sociedad civil y busca impulsar el desarrollo de estas tecnologías en el país.

Por su parte, en el Congreso de la República cursan varias iniciativas que busca legislar sobre este asunto. Además, se espera que la próxima semana se abra una comisión bicameral, de Senado y Cámara, para discutir sobre la regulación de IA, que se suma a las comisiones accidentales que ya cursa en cada cámara del Congreso.

“Hay tantas propuestas legislativas que es imposible que se dé una discusión en este contexto. Además, si no se tiene en cuenta un proyecto de centros de datos del Ministerio de Tecnologías de la Información, no hay propuesta clara del Gobierno”, indica Gutiérrez, de la Universidad de Los Andes. Se espera que en las próximas semanas se presente un proyecto que unificado de las distintas propuestas para regular la IA en Colombia.

👩‍🔬📄 ¿Quieres conocer las últimas noticias sobre ciencia? Te invitamos a verlas en El Espectador. 🧪🧬