Las deficiencias de las políticas de Inteligencia Artificial
Los próximos días en Chile se reunirá el “Foro sobre la ética de la Inteligencia Artificial en América Latina y el Caribe” en el que Unesco, el Banco de Desarrollo de América Latina y el Caribe (CAF) y el Ministerio de Ciencia del país austral proponen hablar sobre el uso responsable de la IA en la región. Colombia ha sido reconocida por el desarrollo de su política pública en este tema y sin embargo, lo que ha pasado cuenta otra historia.
El documento Conpes de Big Data (2018) sirve de antecedente, pero fue el gobierno de Duque el que trazó el mapa de ruta de las políticas IA al expedir el documento Conpes 3975 de transformación digital e Inteligencia Artificial (IA). Con ese norte el superpoderoso DAPRE publicó en poco tiempo el Marco Ético de IA, un Task Force para el desarrollo de implementación de la IA, diseñó un marco para metodologías experimentales de regulación (sandboxes y beaches), montó un consejo internacional de IA y trabajó en un modelo de gobernanza para la infraestructura de datos. Por su parte el MinTIC publicó un Marco de Transformación Digital para mejorar la relación Estado-ciudadano y la SIC desarrolló su marco de Sandbox sobre privacidad desde el diseño y por defecto en proyectos de IA. Y con seguridad me quedo corta en el inventario de políticas IA de esa época.
Tomen nota, las políticas no hicieron evaluación de impactos, no recogieron de los actores interesados locales los riesgos y por tanto no tienen plan para abordarlos. No se analizó en ellas, por ejemplo, cómo garantizar el derecho a investigar y cómo esto requiere ajustar los sistemas nacionales de derecho de autor para contemplar la excepción correspondiente o, más básico aún, cómo las articulan con normas de protección de datos preexistentes. El gobierno de Duque expidió las políticas pero no las implementó, el gobierno de Petro lleva más de un año y no tiene nada que mostrar, parece querer arrancar de cero.
El problema central es que las políticas se hicieron sin una verdadera estrategia de participación pública y contextual. Esto sucedió a todo nivel, así por ejemplo, mientras el Consejo Internacional hizo gala de su nombre -en él no participó nadie de nacionalidad colombiana-, de los problemas que enfrentamos los actores locales para comentar e incidir quedó el registro en los análisis del GECTI de la Universidad de los Andes y de la Fundación Karisma, donde trabajo.
El GECTI confirmó que varios de estos documentos ni siquiera se abrieron a comentarios públicos y que, cuando lo hicieron, los procesos estuvieron plagados de barreras. Además donde se presentaron comentarios éstos prácticamente no afectaron los borradores del gobierno. El informe de Karisma reitera los hallazgos, sobre la base de los procesos de consulta ciudadana realizados para la expedición de algunos documentos, los comentarios presentados, las respuestas dadas y la percepción de los actores que participaron.
De la falta de participación de las múltiples partes interesadas, desde el enfoque del pensamiento de diseño, se ocupó también Lorena Flórez en un artículo en enero. Allí repitió lo ya mencionado y señaló que nuestra estrategia se basa en contribuciones internacionales (concretamente de la Universidad de Harvard), que “olvidó promover el talento nacional e hizo caso omiso a los desarrollos de IA que ya estaban presentes en el país”.
Colombia también se montó en la apuesta de la IA como propuesta de desarrollo en la que el sector público es motor. Lo hizo sin saber ni qué, ni cómo estaba el Estado abordando el tema. Hace unos meses Juan David Gutiérrez y Sarah Muñoz-Cadena publicaron el inventario de los sistemas de IA y de decisión automatizada de las entidades públicas. Del inventario se sabe que hay más de cien soluciones IA, que la mayoría son de entidades del orden nacional, se desarrollaron en la rama ejecutiva y muchos están para apoyar la justicia. El documento da luces sobre los beneficios que pueden derivarse de estos sistemas y, sobre todo, de los riesgos que deben enfrentar y que no están en las políticas.
Si durante el gobierno de Duque hubo un protagonismo claro y muchas promesas -concentrado en el Dapre, que movió recursos y sin mayor debate local impuso su visión de la IA-, el de Petro dio un descanso del frenesí que traíamos, pero todo indica que no tenía una apuesta -no llegó ni con un plan alternativo ni de continuidad-.
Por ejemplo, el Marco Ético contaba con una herramienta de acceso público para conocer el uso de IA en el Estado y su implementación de los principios. En su apogeo registró siete proyectos (aunque la academía nos cuenta que hay más de cien) pero hace meses que está fuera de línea. Ni Duque consiguió crear el hábito de su uso, ni Petro rescató la herramienta como algo positivo. Quizá también esto pasó simplemente porque los marcos éticos son más bien inútiles. Nunca sobran pero hay cosas que requieren regulación y soportarse en derechos, en obligaciones, como hemos dicho desde la sociedad civil y la academia.
Entonces, aunque en el papel Colombia aparece preparada y a la vanguardia de la política pública de IA en el sector público, en la práctica los documentos son buenos para enmarcar. Sin una verdadera participación no hay apropiación ni contexto, sin mecanismos efectivos de seguimiento y evaluación no hay herramientas para saber qué pasa, menos con el cambio de gobierno. Si ni siquiera sabían a cuáles sistemas aplicaba: ¿Quién las usaba?
El nombramiento de Mauricio Lizcano como MinTIC pareció cambiar el panorama. Al posesionarse Lizcano indicó que la IA sería el tema central de su gobierno, sin embargo a la fecha no hay información pública sobre lo que significa eso. El Ministerio adelanta consultas privadas en donde indica que está construyendo lineamientos, estrategias y estándares para la implementación de sistemas de IA incluyentes en el país. Habrá que suponer que pronto tendremos noticias públicas sobre cuál será el plan.
Seguramente alguien de MinTIC irá a Chile. Aprovecho para pedirle que presente la situación nacional como una “en construcción”. No tenemos que alegrarnos con lo que hay, pero independientemente del color del gobierno, hay que aprender a no desandar lo andado. Entendiendo el contexto hable de revisar y ajustar, pero sobre todo comprométase con verdaderos procesos de participación ciudadana.
Sería bueno además que el evento sirviera para que la región reflexionara sobre el modelo de elaboración de estrategias nacionales de IA y sobre cómo incorporar una verdadera participación ciudadana. Eso incluye las iniciativas regionales, por ejemplo, en el foro se lanzará una declaración de los Estados (la Declaración de Santiago) y un Consejo Regional de IA. ¿Esto qué significa? ¿Quiénes harán parte? ¿Cuál será su rol? ¿Cómo se podrá participar y conocer lo que hagan? Si por acá llueve, por allá no escampa, diría mi abuelita.
Finalmente, dejando de lado las estrategias nacionales, reconozcamos que lo siguiente es el debate legislativo. En Colombia hay tres proyectos de ley para regular IA (uno de ellos inspirado en la reciente norma europea), así que la discusión continuará.
Los próximos días en Chile se reunirá el “Foro sobre la ética de la Inteligencia Artificial en América Latina y el Caribe” en el que Unesco, el Banco de Desarrollo de América Latina y el Caribe (CAF) y el Ministerio de Ciencia del país austral proponen hablar sobre el uso responsable de la IA en la región. Colombia ha sido reconocida por el desarrollo de su política pública en este tema y sin embargo, lo que ha pasado cuenta otra historia.
El documento Conpes de Big Data (2018) sirve de antecedente, pero fue el gobierno de Duque el que trazó el mapa de ruta de las políticas IA al expedir el documento Conpes 3975 de transformación digital e Inteligencia Artificial (IA). Con ese norte el superpoderoso DAPRE publicó en poco tiempo el Marco Ético de IA, un Task Force para el desarrollo de implementación de la IA, diseñó un marco para metodologías experimentales de regulación (sandboxes y beaches), montó un consejo internacional de IA y trabajó en un modelo de gobernanza para la infraestructura de datos. Por su parte el MinTIC publicó un Marco de Transformación Digital para mejorar la relación Estado-ciudadano y la SIC desarrolló su marco de Sandbox sobre privacidad desde el diseño y por defecto en proyectos de IA. Y con seguridad me quedo corta en el inventario de políticas IA de esa época.
Tomen nota, las políticas no hicieron evaluación de impactos, no recogieron de los actores interesados locales los riesgos y por tanto no tienen plan para abordarlos. No se analizó en ellas, por ejemplo, cómo garantizar el derecho a investigar y cómo esto requiere ajustar los sistemas nacionales de derecho de autor para contemplar la excepción correspondiente o, más básico aún, cómo las articulan con normas de protección de datos preexistentes. El gobierno de Duque expidió las políticas pero no las implementó, el gobierno de Petro lleva más de un año y no tiene nada que mostrar, parece querer arrancar de cero.
El problema central es que las políticas se hicieron sin una verdadera estrategia de participación pública y contextual. Esto sucedió a todo nivel, así por ejemplo, mientras el Consejo Internacional hizo gala de su nombre -en él no participó nadie de nacionalidad colombiana-, de los problemas que enfrentamos los actores locales para comentar e incidir quedó el registro en los análisis del GECTI de la Universidad de los Andes y de la Fundación Karisma, donde trabajo.
El GECTI confirmó que varios de estos documentos ni siquiera se abrieron a comentarios públicos y que, cuando lo hicieron, los procesos estuvieron plagados de barreras. Además donde se presentaron comentarios éstos prácticamente no afectaron los borradores del gobierno. El informe de Karisma reitera los hallazgos, sobre la base de los procesos de consulta ciudadana realizados para la expedición de algunos documentos, los comentarios presentados, las respuestas dadas y la percepción de los actores que participaron.
De la falta de participación de las múltiples partes interesadas, desde el enfoque del pensamiento de diseño, se ocupó también Lorena Flórez en un artículo en enero. Allí repitió lo ya mencionado y señaló que nuestra estrategia se basa en contribuciones internacionales (concretamente de la Universidad de Harvard), que “olvidó promover el talento nacional e hizo caso omiso a los desarrollos de IA que ya estaban presentes en el país”.
Colombia también se montó en la apuesta de la IA como propuesta de desarrollo en la que el sector público es motor. Lo hizo sin saber ni qué, ni cómo estaba el Estado abordando el tema. Hace unos meses Juan David Gutiérrez y Sarah Muñoz-Cadena publicaron el inventario de los sistemas de IA y de decisión automatizada de las entidades públicas. Del inventario se sabe que hay más de cien soluciones IA, que la mayoría son de entidades del orden nacional, se desarrollaron en la rama ejecutiva y muchos están para apoyar la justicia. El documento da luces sobre los beneficios que pueden derivarse de estos sistemas y, sobre todo, de los riesgos que deben enfrentar y que no están en las políticas.
Si durante el gobierno de Duque hubo un protagonismo claro y muchas promesas -concentrado en el Dapre, que movió recursos y sin mayor debate local impuso su visión de la IA-, el de Petro dio un descanso del frenesí que traíamos, pero todo indica que no tenía una apuesta -no llegó ni con un plan alternativo ni de continuidad-.
Por ejemplo, el Marco Ético contaba con una herramienta de acceso público para conocer el uso de IA en el Estado y su implementación de los principios. En su apogeo registró siete proyectos (aunque la academía nos cuenta que hay más de cien) pero hace meses que está fuera de línea. Ni Duque consiguió crear el hábito de su uso, ni Petro rescató la herramienta como algo positivo. Quizá también esto pasó simplemente porque los marcos éticos son más bien inútiles. Nunca sobran pero hay cosas que requieren regulación y soportarse en derechos, en obligaciones, como hemos dicho desde la sociedad civil y la academia.
Entonces, aunque en el papel Colombia aparece preparada y a la vanguardia de la política pública de IA en el sector público, en la práctica los documentos son buenos para enmarcar. Sin una verdadera participación no hay apropiación ni contexto, sin mecanismos efectivos de seguimiento y evaluación no hay herramientas para saber qué pasa, menos con el cambio de gobierno. Si ni siquiera sabían a cuáles sistemas aplicaba: ¿Quién las usaba?
El nombramiento de Mauricio Lizcano como MinTIC pareció cambiar el panorama. Al posesionarse Lizcano indicó que la IA sería el tema central de su gobierno, sin embargo a la fecha no hay información pública sobre lo que significa eso. El Ministerio adelanta consultas privadas en donde indica que está construyendo lineamientos, estrategias y estándares para la implementación de sistemas de IA incluyentes en el país. Habrá que suponer que pronto tendremos noticias públicas sobre cuál será el plan.
Seguramente alguien de MinTIC irá a Chile. Aprovecho para pedirle que presente la situación nacional como una “en construcción”. No tenemos que alegrarnos con lo que hay, pero independientemente del color del gobierno, hay que aprender a no desandar lo andado. Entendiendo el contexto hable de revisar y ajustar, pero sobre todo comprométase con verdaderos procesos de participación ciudadana.
Sería bueno además que el evento sirviera para que la región reflexionara sobre el modelo de elaboración de estrategias nacionales de IA y sobre cómo incorporar una verdadera participación ciudadana. Eso incluye las iniciativas regionales, por ejemplo, en el foro se lanzará una declaración de los Estados (la Declaración de Santiago) y un Consejo Regional de IA. ¿Esto qué significa? ¿Quiénes harán parte? ¿Cuál será su rol? ¿Cómo se podrá participar y conocer lo que hagan? Si por acá llueve, por allá no escampa, diría mi abuelita.
Finalmente, dejando de lado las estrategias nacionales, reconozcamos que lo siguiente es el debate legislativo. En Colombia hay tres proyectos de ley para regular IA (uno de ellos inspirado en la reciente norma europea), así que la discusión continuará.