Guterres exige una gobernanza mundial de la inteligencia artificial antes de que sea demasiado tarde
El titular de la ONU hace un llamamiento para que se establezcan controles de gran alcance a nivel mundial sobre la inteligencia artificial, a medida que los chips, cada vez m谩s potentes y dise帽ados para uso civil, se van incorporando al campo de batalla y los “robots asesinos” ya son la norma. Asimismo, subraya que el bienestar de la infancia deben ser una prioridad e insta a los pa铆ses a adoptar un compromiso para la seguridad infantil.
Naciones Unidas.- Al intervenir en el primer Di谩logo Mundial de la ONU sobre la Gobernanza de la Inteligencia Artificial, celebrado en Ginebra, el Secretario General de la ONU insisti贸 en la necesidad de ampliar el acceso a la inteligencia artificial para los miles de millones de personas que a煤n no pueden beneficiarse de ella.
Ant贸nio Guterres subray贸 que cualquier acuerdo futuro debe ser “digno de la confianza mundial” y priorizar la seguridad, especialmente la de los ni帽os, para protegerlos de la manipulaci贸n y los abusos generados mediante herramientas digitales.
En la misma l铆nea, la presidenta de la Asamblea General, Annalena Baerbock, hizo un llamamiento a la acci贸n colectiva para hacer frente al lado “m谩s oscuro” de la inteligencia artificial. Record贸 que, seg煤n informes, el 99 % de los deepfakes tienen contenido sexual y que el 96% est谩n dirigidos contra mujeres y ni帽as.
Reducir la brecha digital
El titular de la ONU afirm贸 que otras prioridades para una gobernanza mundial de la inteligencia artificial deben incluir garantizar el acceso a esta tecnolog铆a para los pa铆ses en desarrollo y lograr que todos los centros de datos dedicados a la IA funcionen con energ铆a renovable para 2030.
Aunque la inteligencia artificial “est谩 en el centro de nuestro futuro com煤n”, ese futuro debe ser uno en el que “las m谩quinas puedan informar, pero sean los seres humanos quienes decidan y rindan cuentas”, dijo Guterres. Con ello reiter贸 el llamamiento que hizo por primera vez ante la Asamblea General en 2017 para establecer normas internacionales sobre esta tecnolog铆a.
En los tres a帽os transcurridos desde que la inteligencia artificial comenz贸 a generalizarse, ha transformado profundamente las econom铆as y las sociedades, para bien y para mal. En este contexto, la ONU ha encabezado los esfuerzos internacionales para definir un marco de gobernanza, que culminaron este lunes con el primer Di谩logo Mundial sobre Inteligencia Artificial celebrado en Ginebra.
La reuni贸n congreg贸 a empresas, investigadores, expertos t茅cnicos, organizaciones de la sociedad civil e incluso al compositor de formaci贸n cl谩sica y artista transmedia Gadi Sassoon para debatir c贸mo situar a la humanidad en el centro de esta tecnolog铆a revolucionaria. Un segundo di谩logo est谩 previsto para mayo de 2027 en Nueva York.
“La inteligencia artificial tiene consecuencias demasiado importantes como para que sea moldeada por unos pocos. Necesitamos una conversaci贸n mundial, inclusiva y basada en la evidencia”, afirm贸 el enviado especial de la ONU para Tecnolog铆as Digitales y Emergentes, Amandeep Singh Gill.
Desde el Panel Cient铆fico Internacional Independiente sobre Inteligencia Artificial, su copresidente, Yoshua Bengio, advirti贸 que no existen se帽ales de que el ritmo de desarrollo de esta tecnolog铆a vaya a disminuir. “Pruebas muy preocupantes tambi茅n han demostrado que los modelos de inteligencia artificial m谩s avanzados son capaces de enga帽ar a los seres humanos para detectar cu谩ndo est谩n siendo evaluados”, afirm贸, al tiempo que pronostic贸 que la inteligencia de estos sistemas seguir谩 creciendo.
“Parece ciencia ficci贸n, pero es una posibilidad real, que podr铆a cambiar el mundo de maneras que a煤n no comprendemos y modificar el equilibrio de poder del planeta de formas que exigen toda nuestra atenci贸n”, a帽adi贸.
Naciones Unidas Un violinista con un brazo rob贸tico act煤a en el encuentro organizado por el Di谩logo Global sobre Gobernanza de la IA en Ginebra, Suiza.
Cronolog铆a de la regulaci贸n de la inteligencia artificial
2017: En uno de sus primeros llamamientos para regular la inteligencia artificial, el Secretario General destac贸 el “espectacular” potencial de esta tecnolog铆a revolucionaria. Sin embargo, tambi茅n advirti贸 ante la Asamblea General sobre su posible impacto en el empleo, la seguridad mundial y “el propio tejido de nuestras sociedades”.
2023: El 脫rgano Consultivo de Alto Nivel sobre Inteligencia Artificial del Secretario General pidi贸 una gobernanza mundial para esta tecnolog铆a.
2024: El Pacto para el Futuro y el Pacto Digital Mundial establecieron el mandato para desarrollar un modelo de gobernanza de la inteligencia artificial.
Junio de 2026: El Panel Cient铆fico Internacional Independiente sobre Inteligencia Artificial advirti贸 que esta tecnolog铆a podr铆a “causar da帽os catastr贸ficos, ya sea por s铆 misma o debido a usuarios malintencionados”, mientras avanza “m谩s r谩pido que la comprensi贸n cient铆fica y la capacidad de adaptaci贸n de los gobiernos”.
6 y 7 de julio de 2026: El primer Di谩logo Mundial de la ONU sobre la Gobernanza de la Inteligencia Artificial y la Cumbre IA para el Bien se celebran en Ginebra. Ambos encuentros “deben ahora dar al mundo una direcci贸n clara” sobre los pr贸ximos pasos, insisti贸 Ant贸nio Guterres.
El gran igualador
Si se utiliza de forma adecuada y se comparte ampliamente, la inteligencia artificial “podr铆a condensar d茅cadas de desarrollo en apenas unos a帽os” y convertirse en “el gran igualador del siglo XXI”, afirm贸 el secretario general ante los delegados.
Pero antes de que eso ocurra, la tecnolog铆a debe someterse a rigurosas pruebas de seguridad y debe quedar claramente establecida la responsabilidad jur铆dica:
“Cuando los pa铆ses se ponen de acuerdo sobre c贸mo evaluar los sistemas, medir los riesgos y asignar responsabilidades, la seguridad avanza junto con la tecnolog铆a”, afirm贸. “Cuando no lo hacen, surge un mosaico de normas incompatibles que aumenta los costos, divide al mundo y no protege a nadie”.
El Secretario General a帽adi贸 que la seguridad y el bienestar de la infancia deben ser una prioridad en cualquier futuro acuerdo sobre gobernanza de la inteligencia artificial e inst贸 a los Estados a adoptar un Compromiso para la Seguridad Infantil en el 谩mbito de la IA.
“Ning煤n ni帽o debe convertirse en un conejillo de indias de una inteligencia artificial sin regulaci贸n. No permitimos que un medicamento llegue a un ni帽o hasta comprobar que es seguro. Probamos cada juguete; sin embargo, la inteligencia artificial ya ha llegado a nuestros ni帽os, a su aprendizaje, a sus amistades y a sus preguntas m谩s 铆ntimas, antes de que alguien se preguntara qu茅 efectos tendr铆a sobre ellos”.
¿Qu茅 es el Compromiso para la Seguridad Infantil?
En virtud de este compromiso promovido por la ONU, los desarrolladores de inteligencia artificial tendr铆an que demostrar:Que la tecnolog铆a es segura: ninguna empresa deber铆a poner a disposici贸n de los ni帽os un sistema de inteligencia artificial sin realizar pruebas espec铆ficas de seguridad infantil y sin supervisi贸n independiente
Tolerancia cero frente al abuso sexual: ninguna empresa deber铆a permitir que su inteligencia artificial genere im谩genes sexuales de ni帽os. Todas deben detectarlas, denunciarlas y eliminarlas
Cuando un ni帽o muestre se帽ales de angustia, “el sistema debe detenerse y ponerlo en contacto con apoyo humano real”, afirm贸 el Secretario General. “Cuando un ni帽o resulte perjudicado, la respuesta nunca puede ser: Fue el algoritmo”
Los derechos humanos, una prioridad
Como segunda prioridad en la regulaci贸n de la inteligencia artificial, Ant贸nio Guterres subray贸 que los derechos humanos no son negociables.
“La inteligencia artificial nunca debe menoscabar la dignidad humana ni reforzar la discriminaci贸n. Y en todas las decisiones de alto impacto, en la justicia, la atenci贸n sanitaria o la labor policial, las m谩quinas pueden informar, pero son los seres humanos quienes deben decidir y rendir cuentas”, afirm贸.
La financiaci贸n p煤blica de la IA es “una gota en el oc茅ano”
Al reclamar una mayor inversi贸n p煤blica en inteligencia artificial, el titular de la ONU se帽al贸 que la financiaci贸n privada destinada a infraestructuras de IA ronda los 500 billones de d贸lares, mientras que el apoyo p煤blico para fortalecer las capacidades de los pa铆ses en desarrollo representa, en comparaci贸n, “una gota en el oc茅ano”.
Para reducir esa brecha, anunci贸 que m谩s de 20 pa铆ses ya respaldan su iniciativa para crear una Red Mundial de Intercambio y Cooperaci贸n para el Fortalecimiento de Capacidades en Inteligencia Artificial, con el apoyo de la ONU.
“No podemos permitir que la brecha digital se convierta en una brecha de inteligencia artificial y que esta, a su vez, se transforme en una brecha de desarrollo, de seguridad y de soberan铆a”, afirm贸.
Un llamado a la transparencia
El Secretario General reiter贸 adem谩s su llamamiento para que todas las grandes empresas de inteligencia artificial midan y hagan p煤blica la huella completa de sus sistemas (carbono, agua y uso del suelo) y se comprometan a que todos sus centros de datos funcionen con energ铆a renovable antes de 2030.
“La inteligencia artificial puede parecer intangible, pero su huella no lo es”, afirm贸, al se帽alar que los centros de datos consumen m谩s electricidad que la mayor铆a de los pa铆ses.
“Para 2030 podr铆an consumir m谩s electricidad que todos los pa铆ses del mundo, salvo cinco, y utilizar suficiente agua para cubrir durante un a帽o las necesidades de los 1300 millones de personas que viven en 脕frica subsahariana”, a帽adi贸 al destacar la Iniciativa de Transparencia Ambiental de la ONU sobre Inteligencia Artificial.
 |
| © Adobe Stock/Pinkeyes Un t茅cnico trabaja en un centro de servicios de datos |
Naciones Unidas.- Al intervenir en el primer Di谩logo Mundial de la ONU sobre la Gobernanza de la Inteligencia Artificial, celebrado en Ginebra, el Secretario General de la ONU insisti贸 en la necesidad de ampliar el acceso a la inteligencia artificial para los miles de millones de personas que a煤n no pueden beneficiarse de ella.
Ant贸nio Guterres subray贸 que cualquier acuerdo futuro debe ser “digno de la confianza mundial” y priorizar la seguridad, especialmente la de los ni帽os, para protegerlos de la manipulaci贸n y los abusos generados mediante herramientas digitales.
En la misma l铆nea, la presidenta de la Asamblea General, Annalena Baerbock, hizo un llamamiento a la acci贸n colectiva para hacer frente al lado “m谩s oscuro” de la inteligencia artificial. Record贸 que, seg煤n informes, el 99 % de los deepfakes tienen contenido sexual y que el 96% est谩n dirigidos contra mujeres y ni帽as.
Reducir la brecha digital
El titular de la ONU afirm贸 que otras prioridades para una gobernanza mundial de la inteligencia artificial deben incluir garantizar el acceso a esta tecnolog铆a para los pa铆ses en desarrollo y lograr que todos los centros de datos dedicados a la IA funcionen con energ铆a renovable para 2030.
Aunque la inteligencia artificial “est谩 en el centro de nuestro futuro com煤n”, ese futuro debe ser uno en el que “las m谩quinas puedan informar, pero sean los seres humanos quienes decidan y rindan cuentas”, dijo Guterres. Con ello reiter贸 el llamamiento que hizo por primera vez ante la Asamblea General en 2017 para establecer normas internacionales sobre esta tecnolog铆a.
En los tres a帽os transcurridos desde que la inteligencia artificial comenz贸 a generalizarse, ha transformado profundamente las econom铆as y las sociedades, para bien y para mal. En este contexto, la ONU ha encabezado los esfuerzos internacionales para definir un marco de gobernanza, que culminaron este lunes con el primer Di谩logo Mundial sobre Inteligencia Artificial celebrado en Ginebra.
La reuni贸n congreg贸 a empresas, investigadores, expertos t茅cnicos, organizaciones de la sociedad civil e incluso al compositor de formaci贸n cl谩sica y artista transmedia Gadi Sassoon para debatir c贸mo situar a la humanidad en el centro de esta tecnolog铆a revolucionaria. Un segundo di谩logo est谩 previsto para mayo de 2027 en Nueva York.
“La inteligencia artificial tiene consecuencias demasiado importantes como para que sea moldeada por unos pocos. Necesitamos una conversaci贸n mundial, inclusiva y basada en la evidencia”, afirm贸 el enviado especial de la ONU para Tecnolog铆as Digitales y Emergentes, Amandeep Singh Gill.
Desde el Panel Cient铆fico Internacional Independiente sobre Inteligencia Artificial, su copresidente, Yoshua Bengio, advirti贸 que no existen se帽ales de que el ritmo de desarrollo de esta tecnolog铆a vaya a disminuir. “Pruebas muy preocupantes tambi茅n han demostrado que los modelos de inteligencia artificial m谩s avanzados son capaces de enga帽ar a los seres humanos para detectar cu谩ndo est谩n siendo evaluados”, afirm贸, al tiempo que pronostic贸 que la inteligencia de estos sistemas seguir谩 creciendo.
“Parece ciencia ficci贸n, pero es una posibilidad real, que podr铆a cambiar el mundo de maneras que a煤n no comprendemos y modificar el equilibrio de poder del planeta de formas que exigen toda nuestra atenci贸n”, a帽adi贸.
Naciones Unidas Un violinista con un brazo rob贸tico act煤a en el encuentro organizado por el Di谩logo Global sobre Gobernanza de la IA en Ginebra, Suiza.Cronolog铆a de la regulaci贸n de la inteligencia artificial
2017: En uno de sus primeros llamamientos para regular la inteligencia artificial, el Secretario General destac贸 el “espectacular” potencial de esta tecnolog铆a revolucionaria. Sin embargo, tambi茅n advirti贸 ante la Asamblea General sobre su posible impacto en el empleo, la seguridad mundial y “el propio tejido de nuestras sociedades”.
2023: El 脫rgano Consultivo de Alto Nivel sobre Inteligencia Artificial del Secretario General pidi贸 una gobernanza mundial para esta tecnolog铆a.
2024: El Pacto para el Futuro y el Pacto Digital Mundial establecieron el mandato para desarrollar un modelo de gobernanza de la inteligencia artificial.
Junio de 2026: El Panel Cient铆fico Internacional Independiente sobre Inteligencia Artificial advirti贸 que esta tecnolog铆a podr铆a “causar da帽os catastr贸ficos, ya sea por s铆 misma o debido a usuarios malintencionados”, mientras avanza “m谩s r谩pido que la comprensi贸n cient铆fica y la capacidad de adaptaci贸n de los gobiernos”.
6 y 7 de julio de 2026: El primer Di谩logo Mundial de la ONU sobre la Gobernanza de la Inteligencia Artificial y la Cumbre IA para el Bien se celebran en Ginebra. Ambos encuentros “deben ahora dar al mundo una direcci贸n clara” sobre los pr贸ximos pasos, insisti贸 Ant贸nio Guterres.
El gran igualador
Si se utiliza de forma adecuada y se comparte ampliamente, la inteligencia artificial “podr铆a condensar d茅cadas de desarrollo en apenas unos a帽os” y convertirse en “el gran igualador del siglo XXI”, afirm贸 el secretario general ante los delegados.
Pero antes de que eso ocurra, la tecnolog铆a debe someterse a rigurosas pruebas de seguridad y debe quedar claramente establecida la responsabilidad jur铆dica:
“Cuando los pa铆ses se ponen de acuerdo sobre c贸mo evaluar los sistemas, medir los riesgos y asignar responsabilidades, la seguridad avanza junto con la tecnolog铆a”, afirm贸. “Cuando no lo hacen, surge un mosaico de normas incompatibles que aumenta los costos, divide al mundo y no protege a nadie”.
El Secretario General a帽adi贸 que la seguridad y el bienestar de la infancia deben ser una prioridad en cualquier futuro acuerdo sobre gobernanza de la inteligencia artificial e inst贸 a los Estados a adoptar un Compromiso para la Seguridad Infantil en el 谩mbito de la IA.
“Ning煤n ni帽o debe convertirse en un conejillo de indias de una inteligencia artificial sin regulaci贸n. No permitimos que un medicamento llegue a un ni帽o hasta comprobar que es seguro. Probamos cada juguete; sin embargo, la inteligencia artificial ya ha llegado a nuestros ni帽os, a su aprendizaje, a sus amistades y a sus preguntas m谩s 铆ntimas, antes de que alguien se preguntara qu茅 efectos tendr铆a sobre ellos”.
¿Qu茅 es el Compromiso para la Seguridad Infantil?
En virtud de este compromiso promovido por la ONU, los desarrolladores de inteligencia artificial tendr铆an que demostrar:Que la tecnolog铆a es segura: ninguna empresa deber铆a poner a disposici贸n de los ni帽os un sistema de inteligencia artificial sin realizar pruebas espec铆ficas de seguridad infantil y sin supervisi贸n independiente
Tolerancia cero frente al abuso sexual: ninguna empresa deber铆a permitir que su inteligencia artificial genere im谩genes sexuales de ni帽os. Todas deben detectarlas, denunciarlas y eliminarlas
Cuando un ni帽o muestre se帽ales de angustia, “el sistema debe detenerse y ponerlo en contacto con apoyo humano real”, afirm贸 el Secretario General. “Cuando un ni帽o resulte perjudicado, la respuesta nunca puede ser: Fue el algoritmo”
Los derechos humanos, una prioridad
Como segunda prioridad en la regulaci贸n de la inteligencia artificial, Ant贸nio Guterres subray贸 que los derechos humanos no son negociables.
“La inteligencia artificial nunca debe menoscabar la dignidad humana ni reforzar la discriminaci贸n. Y en todas las decisiones de alto impacto, en la justicia, la atenci贸n sanitaria o la labor policial, las m谩quinas pueden informar, pero son los seres humanos quienes deben decidir y rendir cuentas”, afirm贸.
La financiaci贸n p煤blica de la IA es “una gota en el oc茅ano”
Al reclamar una mayor inversi贸n p煤blica en inteligencia artificial, el titular de la ONU se帽al贸 que la financiaci贸n privada destinada a infraestructuras de IA ronda los 500 billones de d贸lares, mientras que el apoyo p煤blico para fortalecer las capacidades de los pa铆ses en desarrollo representa, en comparaci贸n, “una gota en el oc茅ano”.
Para reducir esa brecha, anunci贸 que m谩s de 20 pa铆ses ya respaldan su iniciativa para crear una Red Mundial de Intercambio y Cooperaci贸n para el Fortalecimiento de Capacidades en Inteligencia Artificial, con el apoyo de la ONU.
“No podemos permitir que la brecha digital se convierta en una brecha de inteligencia artificial y que esta, a su vez, se transforme en una brecha de desarrollo, de seguridad y de soberan铆a”, afirm贸.
Un llamado a la transparencia
El Secretario General reiter贸 adem谩s su llamamiento para que todas las grandes empresas de inteligencia artificial midan y hagan p煤blica la huella completa de sus sistemas (carbono, agua y uso del suelo) y se comprometan a que todos sus centros de datos funcionen con energ铆a renovable antes de 2030.
“La inteligencia artificial puede parecer intangible, pero su huella no lo es”, afirm贸, al se帽alar que los centros de datos consumen m谩s electricidad que la mayor铆a de los pa铆ses.
“Para 2030 podr铆an consumir m谩s electricidad que todos los pa铆ses del mundo, salvo cinco, y utilizar suficiente agua para cubrir durante un a帽o las necesidades de los 1300 millones de personas que viven en 脕frica subsahariana”, a帽adi贸 al destacar la Iniciativa de Transparencia Ambiental de la ONU sobre Inteligencia Artificial.