Las siete recomendaciones de la ONU sobre inteligencia artificial
La Organización de las Naciones Unidas (ONU) compartió siete recomendaciones para guiar a los Estados.
Ante la necesidad de regular a escala mundial los avances en el sector de la Inteligencia Artificial (IA), de cara a fomentar que sea una tecnología distribuida equitativamente para hacer el bien y evitar que esté en manos de unos pocos Estados o empresas, la Organización de las Naciones Unidas (ONU) ha compartido siete recomendaciones para guiar a los Estados, entre las que se encuentran la creación de un panel científico internacional y la regulación mundial, todo ello enmarcado en el nuevo informe ‘Gobernar la IA para la humanidad’.
La IA es una tecnología disruptiva que se está materializando en diversos ámbitos y que, ante su rápida adopción y los múltiples avances que ofrece, está transformando la sociedad actual, revolucionando ámbitos desde la investigación científica y la optimización de las redes de energía, hasta la mejora de salud pública o la agricultura.
Sin embargo, aunque se trata de una tecnología que muestra potencial para implementar mejoras en la sociedad, desde la ONU señalan la necesidad de gobernar la IA, dado que, en caso de no gestionar esta herramienta, las oportunidades de la IA pueden no manifestarse ni distribuirse equitativamente. “La IA podría limitarse a solo un puñado de Estados, empresas y particulares”, detallan desde el Comité Asesor de Alto Nivel sobre Inteligencia Artificial de Naciones Unidas.
Además, la IA también presenta otros riesgos, como el sesgo y la vigilancia hacia los usuarios, además de las alucinaciones que presentan algunos modelos grandes de lenguaje, o cómo potencia la creación y difusión de desinformación. Todo ello, conlleva complicaciones a la hora de mantener la paz y la seguridad de la sociedad, al tiempo que requiere un alto consumo energético para llevar a cabo todas las tareas, en un momento en el que sobresalen las complicaciones de la crisis climática.
Por tanto, con la intención de mitigar estos riesgos el Órgano Asesor de Alto Nivel sobre Inteligencia Artificial de la ONU, copresidido por la exsecretaria de Estado de Digitalización e IA, Carme Artigas, ha presentado su primer informe bajo el título ‘Gobernar la IA para la humanidad’.
Este informe, que se dio a conocer a finales de la pasada semana, se ha presentado a las puertas de la 79º Asamblea General de la ONU, que se celebra desde este martes hasta el 30 de septiembre en la ciudad de Nueva York (Estados Unidos), y que tratará la gobernabilidad de la IA como uno de sus puntos de debate.
En concreto, ha sido desarrollado por el Comité Asesor de Alto Nivel sobre Inteligencia Artificial de Naciones Unidas, que se basa en un grupo de 39 expertos de IA que representan a 33 países de todas las regiones y provienen de múltiples sectores. En líneas generales, este órgano asesor se dedica a realizar análisis y presentar recomendaciones para la gobernanza internacional del la IA.
Así, tras meses de trabajo y amplias consultas globales -en las que participaron más de 2.000 personas de todas las regiones-, el objetivo final de este documento es describir un plan para abordar los riesgos relacionados con la IA y compartir su potencial transformador a nivel mundial.
Las siete recomendaciones del informe
Para ello, el informe refleja siete recomendaciones que pretenden guiar en el uso de la IA.
- La creación de un panel científico internacional, que proporcione conocimientos científicos “imparciales y confiables” sobre la IA. Este panel deberá ayudar a los Estados miembros a disponer de mejor información sobre esta tecnología, mediante la elaboración de informes anuales sobre las capacidades, tendencias y riesgos que presenta.
- Disponer de un mayor diálogo político entre Estados sobre todo lo relacionado con la IA, contando además con la participación de otros actores, como empresarios o académicos relacionados con esta tecnología. Llevar a cabo reuniones durante dos veces al año para tratar el estado de la gobernanza de la IA, tanto por parte de los Estados como por parte de empresas y partes interesadas, como pueden ser tecnológicas, entidades nacionales o usuarios. Todo este diálogo deberá estar enfocado en conseguir una regulación de la IA enfocada a preservar los derechos humanos.
- Llevar a cabo esta regulación mediante la colaboración público-privada, de manera que tanto empresas privadas como organizaciones participen en el intercambio de ideas e información para “garantizar la interoperabilidad técnica de los sistemas de IA a través de las fronteras”.
- Crear una red mundial de desarrollo de IA, facilitaría el uso y conocimiento de esta tecnología a nivel global, ofreciendo formación, recursos informáticos y conjuntos de datos de IA a investigadores sociales.
- Crear un fondo económico conjunto, para que todos los países puedan desarrollar y tener acceso a esta tecnología. En este fondo, todos los estados deberían aportar económicamente para “abordar las deficiencias en capacidad y colaboración”.
- Fomentar un modelo común que estandarice el uso y gestión de los datos para la IA. En este sentido, han recomendado la creación de un marco mundial de datos de IA, que garantice la transparencia del uso de datos para los sistemas de IA.
- Crear una oficina de IA, que formaría parte de la Secretaría de las Naciones Unidas, para coordinar y apoyar la implementación de propuestas relacionadas con esta tecnología.
Con todo ello, desde el Órgano Asesor de Alto Nivel sobre IA de la ONU instan a “todos los gobiernos y partes interesadas a trabajar juntos en la gobernanza de la IA para fomentar el desarrollo y la protección de todos los derechos humanos”.
Ante la necesidad de regular a escala mundial los avances en el sector de la Inteligencia Artificial (IA), de cara a fomentar que sea una tecnología distribuida equitativamente para hacer el bien y evitar que esté en manos de unos pocos Estados o empresas, la Organización de las Naciones Unidas (ONU) ha compartido siete recomendaciones para guiar a los Estados, entre las que se encuentran la creación de un panel científico internacional y la regulación mundial, todo ello enmarcado en el nuevo informe ‘Gobernar la IA para la humanidad’.
La IA es una tecnología disruptiva que se está materializando en diversos ámbitos y que, ante su rápida adopción y los múltiples avances que ofrece, está transformando la sociedad actual, revolucionando ámbitos desde la investigación científica y la optimización de las redes de energía, hasta la mejora de salud pública o la agricultura.
Sin embargo, aunque se trata de una tecnología que muestra potencial para implementar mejoras en la sociedad, desde la ONU señalan la necesidad de gobernar la IA, dado que, en caso de no gestionar esta herramienta, las oportunidades de la IA pueden no manifestarse ni distribuirse equitativamente. “La IA podría limitarse a solo un puñado de Estados, empresas y particulares”, detallan desde el Comité Asesor de Alto Nivel sobre Inteligencia Artificial de Naciones Unidas.
Además, la IA también presenta otros riesgos, como el sesgo y la vigilancia hacia los usuarios, además de las alucinaciones que presentan algunos modelos grandes de lenguaje, o cómo potencia la creación y difusión de desinformación. Todo ello, conlleva complicaciones a la hora de mantener la paz y la seguridad de la sociedad, al tiempo que requiere un alto consumo energético para llevar a cabo todas las tareas, en un momento en el que sobresalen las complicaciones de la crisis climática.
Por tanto, con la intención de mitigar estos riesgos el Órgano Asesor de Alto Nivel sobre Inteligencia Artificial de la ONU, copresidido por la exsecretaria de Estado de Digitalización e IA, Carme Artigas, ha presentado su primer informe bajo el título ‘Gobernar la IA para la humanidad’.
Este informe, que se dio a conocer a finales de la pasada semana, se ha presentado a las puertas de la 79º Asamblea General de la ONU, que se celebra desde este martes hasta el 30 de septiembre en la ciudad de Nueva York (Estados Unidos), y que tratará la gobernabilidad de la IA como uno de sus puntos de debate.
En concreto, ha sido desarrollado por el Comité Asesor de Alto Nivel sobre Inteligencia Artificial de Naciones Unidas, que se basa en un grupo de 39 expertos de IA que representan a 33 países de todas las regiones y provienen de múltiples sectores. En líneas generales, este órgano asesor se dedica a realizar análisis y presentar recomendaciones para la gobernanza internacional del la IA.
Así, tras meses de trabajo y amplias consultas globales -en las que participaron más de 2.000 personas de todas las regiones-, el objetivo final de este documento es describir un plan para abordar los riesgos relacionados con la IA y compartir su potencial transformador a nivel mundial.
Las siete recomendaciones del informe
Para ello, el informe refleja siete recomendaciones que pretenden guiar en el uso de la IA.
- La creación de un panel científico internacional, que proporcione conocimientos científicos “imparciales y confiables” sobre la IA. Este panel deberá ayudar a los Estados miembros a disponer de mejor información sobre esta tecnología, mediante la elaboración de informes anuales sobre las capacidades, tendencias y riesgos que presenta.
- Disponer de un mayor diálogo político entre Estados sobre todo lo relacionado con la IA, contando además con la participación de otros actores, como empresarios o académicos relacionados con esta tecnología. Llevar a cabo reuniones durante dos veces al año para tratar el estado de la gobernanza de la IA, tanto por parte de los Estados como por parte de empresas y partes interesadas, como pueden ser tecnológicas, entidades nacionales o usuarios. Todo este diálogo deberá estar enfocado en conseguir una regulación de la IA enfocada a preservar los derechos humanos.
- Llevar a cabo esta regulación mediante la colaboración público-privada, de manera que tanto empresas privadas como organizaciones participen en el intercambio de ideas e información para “garantizar la interoperabilidad técnica de los sistemas de IA a través de las fronteras”.
- Crear una red mundial de desarrollo de IA, facilitaría el uso y conocimiento de esta tecnología a nivel global, ofreciendo formación, recursos informáticos y conjuntos de datos de IA a investigadores sociales.
- Crear un fondo económico conjunto, para que todos los países puedan desarrollar y tener acceso a esta tecnología. En este fondo, todos los estados deberían aportar económicamente para “abordar las deficiencias en capacidad y colaboración”.
- Fomentar un modelo común que estandarice el uso y gestión de los datos para la IA. En este sentido, han recomendado la creación de un marco mundial de datos de IA, que garantice la transparencia del uso de datos para los sistemas de IA.
- Crear una oficina de IA, que formaría parte de la Secretaría de las Naciones Unidas, para coordinar y apoyar la implementación de propuestas relacionadas con esta tecnología.
Con todo ello, desde el Órgano Asesor de Alto Nivel sobre IA de la ONU instan a “todos los gobiernos y partes interesadas a trabajar juntos en la gobernanza de la IA para fomentar el desarrollo y la protección de todos los derechos humanos”.