“La inteligencia artificial no s贸lo est谩 transformando nuestro mundo, sino que lo est谩 revolucionando”, dijo este jueves el Secretario General de la ONU, recordando que las tareas que antes requer铆an a帽os de experiencia humana ahora se completan en un instante. Sin embargo, alert贸, “los riesgos son enormes”.
Ant贸nio Guterres particip贸 en un debate ministerial del Consejo de Seguridad sobre inteligencia artificial moderado por el secretario de Estado estadounidense, Antony Blinken, cuyo pa铆s ocupa la presidencia rotatoria del 贸rgano resolutivo.
Guterres se refiri贸 al acelerado crecimiento de esas tecnolog铆as, advirtiendo que supera la capacidad de gobernarlo, planteando cuestiones fundamentales sobre la rendici贸n de cuentas, la igualdad, la seguridad y la protecci贸n.
“Y sobre el papel de la humanidad en el proceso de toma de decisiones. La inteligencia artificial sin supervisi贸n humana dejar铆a al mundo ciego, y tal vez de manera m谩s peligrosa e imprudente en la esfera de la paz y la seguridad mundiales”, se帽al贸.
Toma de decisiones automatizada
En adelante la tecnolog铆a avanzar谩 m谩s r谩pidamente que hoy, asegur贸, citando las inversiones r茅cord que vuelven cada d铆a m谩s potente, vers谩til y accesible la inteligencia artificial, y que han automatizado la toma de decisiones.
Tambi茅n subray贸 la consecuencias imprevistas de esos sistemas, y asever贸 que cada avance da lugar a vulnerabilidades nuevas e inimaginables.
En esta l铆nea de reflexi贸n, aludi贸 al peligro que corren los derechos humanos, la dignidad y el estado de derecho con los sistemas que van “desde la vigilancia aut贸noma de fronteras hasta la vigilancia predictiva y m谩s all谩”.
Guterres advirti贸 que la carrera armamentista basada en la inteligencia artificial crea un terreno f茅rtil para malentendidos y errores de c谩lculo; y que los ciberataques habilitados por esas tecnolog铆as podr铆an paralizar la infraestructura cr铆tica y los servicios esenciales de un pa铆s.
“Lo m谩s grave es que la inteligencia artificial est谩 erosionando el principio fundamental del control humano sobre el uso de la fuerza”, apunt贸, mencionando la selecci贸n de objetivos a trav茅s de algoritmos para tomar decisiones de vida o muerte.
Inteligencia artificial y armas nucleares
El titular de la ONU mostr贸 especial alarma por la integraci贸n de la inteligencia artificial con las armas nucleares, que tendr铆a “consecuencias potencialmente desastrosas”, y llam贸 a “evitarla a toda costa”.
“El destino de la humanidad nunca debe dejarse en manos de la ´caja negra´ de un algoritmo”, enfatiz贸, y a帽adi贸 que los humanos siempre deben conservar el control sobre la toma de decisiones, guiados por el derecho internacional y los principios 茅ticos.
La mano de la humanidad cre贸 la inteligencia artificial y debe ser la que la gu铆e, abund贸.
Gobernanza y desarrollo equitativo de la inteligencia artificial
En este sentido, conmin贸 una vez m谩s a los Estados miembros de la ONU a establecer una gobernanza de la inteligencia artificial que se ajuste al marco de los principios de las Naciones Unidas.
Asimismo, Guterres pugn贸 por la creaci贸n de un marco global que promueva el desarrollo equitativo de la inteligencia artificial y que haga hincapi茅 en apoyar a los pa铆ses en desarrollo para evitar una brecha en el acceso a esas tecnolog铆as que d茅 lugar a un mundo de rico y "pobres.
“Tambi茅n reitero mi llamamiento a la prohibici贸n de las armas aut贸nomas letales. Debemos establecer nuevas prohibiciones y restricciones a los sistemas de armas aut贸nomas para 2026”, puntualiz贸.
Guterres indic贸 que ning煤n pa铆s deber铆a dise帽ar, desarrollar, desplegar o utilizar aplicaciones militares de inteligencia artificial en conflictos armados que violen el derecho internacional, el derecho humanitario y los derechos humanos, lo que incluye no confiar en la inteligencia artificial para seleccionar o atacar objetivos de forma aut贸noma.
El Consejo de Seguridad debe dar el ejemplo
“Los miembros de este Consejo deben dar el ejemplo y garantizar que la competencia por las tecnolog铆as emergentes no desestabilice la paz y la seguridad internacionales. Los urjo a que unan sus fuerzas para construir un futuro de la inteligencia artificial seguro, protegido e inclusivo”, recalc贸.
Nuestras pr贸ximas acciones ser谩n cruciales y las elecciones que hagamos ahora definir谩n el futuro de todos, asever贸 Guterres.
“Cada retraso en el establecimiento de una gobernanza internacional de la inteligencia artificial incrementar谩 el riesgo para todos”, insisti贸, y agreg贸 que esto exigir谩 una cooperaci贸n global sin precedentes que est茅 a la altura de los desaf铆os.
El sector p煤blico debe liderar el avance y la gobernanza
En la sesi贸n del Consejo de Seguridad particip贸 tambi茅n Fei-Fei Li, profesora del Departamento de Ciencias Cibern茅ticas de la Universidad de Stanford, quien consider贸 imperativo que sea el sector p煤blico el que lidere el avance y gobernanza de la inteligencia artificial.
“El sector p煤blico de la inteligencia artificial debe garantizar que sus beneficios se distribuyan ampliamente y est茅n alineados con los intereses p煤blicos”, los gobiernos deben tomar medidas audaces, dijo Li, quien tambi茅n es integrante de la Junta de Asesoramiento Cient铆fico de la ONU.
La acad茅mica inst贸 a los gobiernos a ver la inteligencia artificial “no s贸lo como una tecnolog铆a para regular, sino como un activo estrat茅gico en el cual invertir, lo que significa financiar la investigaci贸n b谩sica, apoyar la educaci贸n y el desarrollo de la fuerza laboral, y crear plataformas inclusivas para la colaboraci贸n global”.
Seg煤n Li, 煤nicamente la inversi贸n p煤blica sostenida puede asegurar que la inteligencia artificial refleje las variadas necesidades y valores de la humanidad.