La inteligencia artificial (IA) presenta un potencial inmenso, pero también conlleva riesgos significativos si no se regula adecuadamente. Esta advertencia fue emitida por el Secretario General de la ONU, António Guterres, durante su intervención ante el Consejo de Seguridad este miércoles.
Guterres señaló que “la IA ya no es un horizonte lejano: está aquí, transformando la vida diaria, el espacio informativo y la economía global a una velocidad vertiginosa”. Durante el debate de alto nivel sobre las implicaciones de seguridad de esta tecnología en la guerra moderna, enfatizó que “la pregunta no es si la IA influirá en la paz y seguridad internacionales, sino cómo daremos forma a esa influencia”.
El Secretario General destacó que, si se utiliza de manera responsable, la IA puede ser una herramienta valiosa para anticipar la inseguridad alimentaria, apoyar operaciones de desminado y detectar brotes de violencia antes de que escalen. Sin embargo, advirtió que sin salvaguardias adecuadas, podría ser militarizada y utilizada en ataques en conflictos recientes o ciberataques contra infraestructuras críticas.
Las decisiones deben recaer en nosotros
Guterres delineó cuatro prioridades esenciales para los gobiernos: garantizar el control humano sobre el uso de la fuerza, establecer marcos normativos globales coherentes, proteger la integridad de la información y cerrar lo que él denominó la «brecha de capacidad en materia de IA» entre países ricos y pobres.
“Reitero mi llamado a prohibir los sistemas de armas autónomas letales que operan sin control humano”, afirmó, instando a concluir un instrumento jurídicamente vinculante para el próximo año. También subrayó que las decisiones sobre armas nucleares “deben quedar en manos de los seres humanos, no de las máquinas”.
A lo largo del discurso, Guterres destacó iniciativas como la creación de un panel científico independiente sobre IA y un nuevo diálogo global sobre gobernanza tecnológica programado para llevarse a cabo en Nueva York.
Un llamado a ampliar el acceso
Yejin Choi, investigadora senior en el Instituto de Inteligencia Artificial Centrada en el Ser Humano de la Universidad de Stanford, también dirigió su mensaje al Consejo de Seguridad. Señaló que el avance actual en IA está excesivamente concentrado en unas pocas empresas y países.
“Cuando solo unos pocos tienen los recursos para desarrollar y beneficiarse de la IA, dejamos al resto del mundo esperando en la puerta”, afirmó Choi. Su propuesta aboga por expandir lo que puede ser la inteligencia y permitir que todos tengan un papel activo en su desarrollo.
La IA debe reforzar la inclusión
La profesora Choi instó a los gobiernos e instituciones internacionales a invertir en enfoques alternativos más allá del simple escalado de modelos cada vez más grandes. Argumentó que sistemas más pequeños y adaptativos podrían facilitar el acceso a esta tecnología emergente.
Además, hizo hincapié en la necesidad de mayor representación lingüística y cultural dentro del ámbito tecnológico. Los modelos avanzados actuales "tienen un bajo rendimiento en muchos idiomas distintos del inglés y reflejan suposiciones culturales estrechas", lo cual limita su efectividad global.
Actuar sin demora
Cerrando su intervención, Guterres advirtió que la ventana para implementar una regulación efectiva se está cerrando rápidamente. “Desde el control de armas nucleares hasta la seguridad aérea, hemos aprendido a responder ante tecnologías capaces de desestabilizar nuestras sociedades mediante reglas e instituciones”, declaró.
“La oportunidad para moldear la IA —por la paz, la justicia y la humanidad— se está desvaneciendo. Es imperativo actuar sin demora”, concluyó.
La sesión del Consejo de Seguridad tuvo lugar durante la semana alta correspondiente a la 80.ª sesión de la Asamblea General, actualmente en curso. La reunión fue convocada por Corea del Sur (presidida durante septiembre) e incluyó a varios jefes de Estado y Gobierno, destacando Lee Jae Myung como presidente del encuentro.
Preguntas sobre la noticia
¿Cuál es la advertencia del Secretario General de la ONU sobre la inteligencia artificial?
António Guterres advierte que la inteligencia artificial (IA) representa graves riesgos si no se regula adecuadamente y que el destino de la humanidad no debe quedar en manos de algoritmos.
¿Qué potencial tiene la inteligencia artificial según Guterres?
Guterres menciona que, usada de manera responsable, la IA puede ayudar a anticipar inseguridades como la inseguridad alimentaria, apoyar operaciones de desminado y detectar brotes de violencia antes de que se salgan de control.
¿Cuáles son las prioridades que establece Guterres para los gobiernos respecto a la IA?
Las prioridades incluyen mantener el control humano sobre el uso de la fuerza, crear marcos normativos globales coherentes, proteger la integridad de la información y cerrar la brecha de capacidad en materia de IA entre países ricos y pobres.
¿Qué medidas ya están en marcha para regular la inteligencia artificial?
Se está creando un panel científico independiente sobre IA y se llevará a cabo un nuevo diálogo global sobre gobernanza de la IA en Nueva York.
¿Por qué es importante ampliar el acceso a la inteligencia artificial?
Yejin Choi señala que el desarrollo actual de IA está demasiado concentrado en pocas empresas y países, lo que deja al resto del mundo sin acceso. Es crucial permitir que todos participen en su construcción.
¿Qué conclusión hace Guterres sobre el tiempo para regular la IA?
Guterres concluye que la ventana para una regulación efectiva se está cerrando rápidamente y llama a actuar sin demora para moldear la IA por la paz, justicia y humanidad.
Si (
No(
