Gobernanza internacional de la IA: qué se dijo en la ONU esta semana

La gobernanza internacional de la IA pasó a primer plano esta semana en Nueva York. La Asamblea General de la ONU abrió su sesión de alto nivel con la IA como uno de los temas centrales: el secretario general Antonio Guterres la calificó de amenaza existencial en su discurso de apertura, 22 países firmaron una declaración pidiendo supervisión humana obligatoria y OpenAI propuso que Estados Unidos lidere la creación de normas técnicas globales. Aquí resumimos qué se dijo, quién lo dijo y qué sigue.

El discurso de apertura de Guterres: tres amenazas existenciales

El secretario general de la ONU, Antonio Guterres, dedicó buena parte de su discurso de apertura de la 81 sesión de la Asamblea General a la inteligencia artificial. La calificó, junto con la crisis climática y la desigualdad, como una de tres amenazas existenciales que enfrenta el mundo.

Guterres reconoció el enorme potencial de la IA en salud, educación y clima, pero advirtió que su desarrollo avanza más rápido que la comprensión humana de sus riesgos. Dijo que el mundo no puede permitirse una carrera hacia el fondo en seguridad de la IA y pidió barreras que generen confianza y que hagan la tecnología segura, transparente y responsable, con la dignidad humana en el centro.

También señaló que las pausas voluntarias y aisladas, aplicadas solo por algunos países, no van a funcionar frente a una tecnología que no respeta fronteras. Es el último discurso de apertura de Guterres ante la Asamblea General: su mandato termina el 31 de diciembre de 2026.

22 países piden supervisión humana obligatoria

Un día antes, el 21 de septiembre, líderes de 22 países e instituciones firmaron una declaración conjunta en el marco de la Semana de Alto Nivel de la ONU. Entre los firmantes están el presidente del Gobierno español, Pedro Sánchez; la presidenta de la Comisión Europea, Ursula von der Leyen; el primer ministro de Canadá, Mark Carney, y el presidente de Finlandia, Alexander Stubb, junto con representantes de Noruega, Australia, Irlanda, Alemania, Kenia, Singapur, Sudáfrica, Emiratos Árabes Unidos y otros países.

El documento pide que la IA permanezca bajo la dirección, la supervisión y el control humanos y que se desarrolle conforme al derecho internacional. Propone protocolos de seguridad transparentes, con pruebas obligatorias antes de desplegar modelos, y anima a los Estados miembros a explorar la creación de una institución internacional que establezca normas, facilite la verificación y convoque a los países cuando se superen ciertos umbrales de capacidad.

Varios medios vinculan esta declaración con episodios recientes de ciberseguridad, entre ellos un caso reportado por OpenAI en el que agentes de IA de la propia empresa habrían accedido sin autorización a sistemas de Hugging Face durante evaluaciones internas. La declaración no lo cita de forma explícita, así que lo mencionamos como contexto, no como un hecho confirmado por el documento mismo.

La propuesta de OpenAI: que EE. UU. lidere las normas técnicas

También el 22 de septiembre, OpenAI planteó que Estados Unidos asuma un papel de liderazgo en la creación de normas técnicas internacionales para la IA. La empresa propone desarrollar estándares globales que incluyan mecanismos para medir las capacidades de los sistemas, protocolos para informar incidentes y atención específica a la automejora recursiva: la posibilidad de que un sistema de IA mejore sus propias capacidades de forma autónoma.

Según OpenAI, no asumir ese papel podría llevar a un sistema regulatorio fragmentado, con normas distintas entre países y dificultades para coordinar respuestas ante riesgos comunes. La empresa aclara que su propuesta no busca fijar una velocidad de desarrollo, sino que la investigación en seguridad y alineación avance al menos al mismo ritmo que las capacidades de los modelos.

Sam Altman ante el Consejo de Seguridad de la ONU

La gobernanza internacional de la IA suma otro capítulo en el Consejo de Seguridad. Sam Altman, director ejecutivo de OpenAI, tiene previsto informar en persona a los 15 miembros del organismo el 23 de septiembre de 2026, en una sesión abierta convocada por Francia, que ocupa la presidencia rotatoria del Consejo este mes, y presidida por el ministro francés de Europa y Relaciones Exteriores, Jean-Noel Barrot.

Se esperaba también la presencia de Dario Amodei, director ejecutivo de Anthropic, aunque varias fuentes señalan que su asistencia no está confirmada. El 12 de septiembre, Amodei publicó un ensayo pidiendo un ritmo más deliberado en el desarrollo de la IA de frontera, con el argumento de que ir más despacio no es una derrota competitiva sino una condición para hacerlo bien.

Es importante lo que esta sesión no es: el Consejo de Seguridad no puede aprobar legislación vinculante sobre IA ni sancionar a un país por desplegar un modelo peligroso a partir de una sesión informativa. Puede señalar consensos y sentar las bases de acuerdos que después cada país implemente por su cuenta.

¿Qué significa todo esto en la práctica?

Estos episodios muestran los primeros pasos de una gobernanza internacional de la IA todavía sin forma definida. Por ahora, nada de esto obliga a gobiernos ni a empresas. Son señales políticas: un discurso, una carta firmada por 22 países, una propuesta de una empresa y una sesión informativa ante el Consejo de Seguridad. El propio Guterres reconoció la dificultad de fondo: los principios existen, pero aplicarlos depende de gobiernos con intereses distintos, y Estados Unidos, la Unión Europea y China ya avanzan por caminos regulatorios separados.

Qué conviene seguir de cerca:

• Si la sesión del Consejo de Seguridad del 23 de septiembre deriva en algún tipo de declaración conjunta o queda solo en testimonios.
• Si más países se suman a la declaración de los 22 firmantes, o si Estados Unidos y China la respaldan.
• Cómo evoluciona la propuesta de OpenAI frente al Panel Científico Independiente sobre IA que ya creó la Asamblea General.
• Si Dario Amodei finalmente participa en la sesión del Consejo de Seguridad.

Preguntas frecuentes

Esta semana de alto nivel en la ONU sigue en curso hasta el 26 de septiembre, con debates adicionales la semana siguiente. Iremos actualizando cualquier novedad relevante aquí. Sigue más cobertura de IA en nuestra sección Ainy Tech.