La inteligencia artificial tiene un enorme potencial, pero representa graves riesgos si no se regula, advirti贸 el Secretario General de la ONU, Ant贸nio Guterres, al Consejo de Seguridad este mi茅rcoles.
“La IA ya no es un horizonte lejano: est谩 aqu铆, transformando la vida diaria, el espacio informativo y la econom铆a global a una velocidad vertiginosa”, dijo Guterres durante el debate de alto nivel del Consejo sobre las implicaciones de seguridad de esta tecnolog铆a en la transformaci贸n de la guerra.
“La pregunta no es si la IA influir谩 en la paz y seguridad internacionales, sino c贸mo daremos forma a esa influencia.”
Usada de manera responsable, dijo el jefe de la ONU, la IA puede ayudar a anticipar la inseguridad alimentaria, apoyar las operaciones de desminado y detectar brotes de violencia antes de que se salgan de control.
“Pero sin salvaguardias, tambi茅n puede ser militarizada,” advirti贸, se帽alando el uso de la IA para dirigir ataques en conflictos recientes, ciberataques contra infraestructuras cr铆ticas y el uso de deepfakes capaces de alimentar la polarizaci贸n o descarrilar la diplomacia.
“La capacidad de fabricar y manipular audio y video amenaza la integridad de la informaci贸n, alimenta la polarizaci贸n y puede desencadenar crisis diplom谩ticas… el destino de la humanidad no puede quedar en manos de un algoritmo,” subray贸.
Las decisiones deben recaer en nosotros
Guterres estableci贸 cuatro prioridades para los gobiernos: mantener el control humano sobre el uso de la fuerza, crear marcos normativos globales coherentes, proteger la integridad de la informaci贸n y cerrar lo que denomin贸 la "brecha de capacidad en materia de IA" entre los pa铆ses ricos y los pobres.
“Reitero mi llamado a prohibir los sistemas de armas aut贸nomas letales que operan sin control humano, con miras a concluir un instrumento jur铆dicamente vinculante para el pr贸ximo a帽o,” afirm贸.
Tambi茅n insisti贸 en que las decisiones sobre armas nucleares “deben quedar en manos de los seres humanos, no de las m谩quinas.”
El Secretario General destac贸 medidas ya en marcha, como la creaci贸n de un panel cient铆fico independiente sobre IA y un nuevo di谩logo global sobre gobernanza de la IA, que se llevar谩 a cabo en Nueva York el jueves.
“Estas iniciativas buscan conectar la ciencia, las pol铆ticas y la pr谩ctica; ofrecer a cada pa铆s un lugar en la mesa; y reducir la fragmentaci贸n,” explic贸.
Un llamado a ampliar el acceso
Yejin Choi, investigadora senior en el Instituto de Inteligencia Artificial Centrada en el Ser Humano de la Universidad de Stanford, dijo al Consejo de Seguridad que el avance actual en IA est谩 demasiado concentrado en pocas empresas y pa铆ses.
“Cuando solo unos pocos tienen los recursos para desarrollar y beneficiarse de la IA, dejamos al resto del mundo esperando en la puerta,” se帽al贸.
“Expandamos lo que puede ser la inteligencia, y permitamos que todos y en todas partes tengan un papel en su construcci贸n.”
La IA debe reforzar la inclusi贸n
La profesora Choi inst贸 a los gobiernos e instituciones internacionales a invertir en enfoques alternativos m谩s all谩 de simplemente escalar modelos cada vez m谩s grandes, argumentando que sistemas m谩s peque帽os y adaptativos podr铆an reducir las barreras de entrada.
Tambi茅n pidi贸 una mayor representaci贸n de la diversidad ling眉铆stica y cultural, destacando que los modelos de IA m谩s avanzados de hoy “tienen un bajo rendimiento en muchos idiomas que no son el ingl茅s y reflejan suposiciones culturales estrechas”.
Actuar sin demora
El Secretario General Guterres concluy贸 advirtiendo que la ventana de oportunidad para una regulaci贸n efectiva se est谩 cerrando r谩pidamente.
“Desde el control de armas nucleares hasta la seguridad a茅rea, la comunidad internacional ha sabido responder ante tecnolog铆as que podr铆an desestabilizar nuestras sociedades: estableciendo reglas, construyendo instituciones y defendiendo la dignidad humana,” afirm贸.
“La ventana para moldear la IA —por la paz, la justicia y la humanidad— se est谩 cerrando. Debemos actuar sin demora.”
La sesi贸n del Consejo de Seguridad se celebr贸 al margen de la semana de alto nivel de la 80.陋 sesi贸n de la Asamblea General, actualmente en curso.
La reuni贸n fue convocada por la Rep煤blica de Corea (Presidenta del Consejo durante el mes de septiembre) y cont贸 con la participaci贸n de jefes de Estado y de Gobierno, entre ellos Lee Jae Myung, Presidente de la Rep煤blica de Corea, quien presidi贸 la reuni贸n.