Compañías piden un tratado internacional contra robots asesinos

Los sorprendentes avances en inteligencia artificial, robótica y computación impulsaron a 116 directivos de compañías líderes de tecnología a proponer un tratado internacional con el objetivo de restringir la construcción de robots autónomos con la capacidad de matar personas.

En una carta enviada a los miembros de la Convención de Armas Convencionales de las Naciones Unidas, los representantes de las empreas expresaron su preocupación por el desarrollo de tecnologías que pondrían en riesgo la integridad humana. Cuadricópteros y drones autónomos son algunos de los tipos de robots que preocupan a estos empresarios y desarrolladores. (Vea aquí la carta).

"Si se fabrican estas armas, algunas de ellas caerán invariablemente en manos de personas que no tendrán ningún reparo en usarlas para mal intenciones", comentó a SciDev.net el profesor Toby Walsh quien enseña inteligencia artificial en la Universidad New South West en Australia y uno de los principales promotores de esta iniciativa. En 2015, respaldado por el físico Stephen Hawking y el cofundador de Apple Steve Wozniak, Walsh inició esta campaña diplomática para llamar la atención de las Naciones Unidas.

La carta sirve de antesala a la primera reunión, prevista para Noviembre, que llevará a cabo el Grupo de Expertos Gubernamentales en Sistemas Autónomos Letales de Naciones Unidas. Entre firmantes de la petición figuran Elon Musk, fundador de Tesla y Mustafa Syleyman del programa Google DeepMind.

“Como empresas que desarrollan tecnologías de inteligencia artificial y robótica que pueden ser reutilizadas para desarrollar armas autónomas, nos sentimos especialmente responsables al lanzar esta alarma. Una vez desarrolladas, permitirán que el conflicto armado se libere a una escala mayor que nunca, y a intervalos de tiempo más rápidos de lo que los humanos pueden comprender. Estas pueden ser armas de terror, armas que los déspotas y los terroristas usarían contra poblaciones inocentes”, plantea la carta.

Waslh comentó al portal de ciencia SciDev.net que “esta nueva carta demuestra muy claramente que no son sólo los investigadores y el mundo académico, gente como yo, sino que la industria está detrás de esta iniciativa también. Vivimos en un mundo cada vez más inestable en el que las naciones y las organizaciones terroristas están desempeñando un papel más peligroso. Si se fabrican estas armas, algunas de ellas caerán invariablemente en manos de personas que no tendrán ningún reparo en usarlas para mal intenciones".
 

Los sorprendentes avances en inteligencia artificial, robótica y computación impulsaron a 116 directivos de compañías líderes de tecnología a proponer un tratado internacional con el objetivo de restringir la construcción de robots autónomos con la capacidad de matar personas.

En una carta enviada a los miembros de la Convención de Armas Convencionales de las Naciones Unidas, los representantes de las empreas expresaron su preocupación por el desarrollo de tecnologías que pondrían en riesgo la integridad humana. Cuadricópteros y drones autónomos son algunos de los tipos de robots que preocupan a estos empresarios y desarrolladores. (Vea aquí la carta).

"Si se fabrican estas armas, algunas de ellas caerán invariablemente en manos de personas que no tendrán ningún reparo en usarlas para mal intenciones", comentó a SciDev.net el profesor Toby Walsh quien enseña inteligencia artificial en la Universidad New South West en Australia y uno de los principales promotores de esta iniciativa. En 2015, respaldado por el físico Stephen Hawking y el cofundador de Apple Steve Wozniak, Walsh inició esta campaña diplomática para llamar la atención de las Naciones Unidas.

La carta sirve de antesala a la primera reunión, prevista para Noviembre, que llevará a cabo el Grupo de Expertos Gubernamentales en Sistemas Autónomos Letales de Naciones Unidas. Entre firmantes de la petición figuran Elon Musk, fundador de Tesla y Mustafa Syleyman del programa Google DeepMind.

“Como empresas que desarrollan tecnologías de inteligencia artificial y robótica que pueden ser reutilizadas para desarrollar armas autónomas, nos sentimos especialmente responsables al lanzar esta alarma. Una vez desarrolladas, permitirán que el conflicto armado se libere a una escala mayor que nunca, y a intervalos de tiempo más rápidos de lo que los humanos pueden comprender. Estas pueden ser armas de terror, armas que los déspotas y los terroristas usarían contra poblaciones inocentes”, plantea la carta.

Waslh comentó al portal de ciencia SciDev.net que “esta nueva carta demuestra muy claramente que no son sólo los investigadores y el mundo académico, gente como yo, sino que la industria está detrás de esta iniciativa también. Vivimos en un mundo cada vez más inestable en el que las naciones y las organizaciones terroristas están desempeñando un papel más peligroso. Si se fabrican estas armas, algunas de ellas caerán invariablemente en manos de personas que no tendrán ningún reparo en usarlas para mal intenciones".