La ONU pide líneas rojas vinculantes para la IA: «un puñado de hombres tiene poder casi ilimitado»
«Un puñado de hombres tiene un poder casi ilimitado sobre la IA». La frase es de Volker Türk, alto comisionado de las Naciones Unidas para los derechos humanos, y la dijo el 7 de septiembre de 2026 ante el Consejo de Derechos Humanos en Ginebra. En el mismo discurso pidió líneas rojas para la IA: reglas vinculantes, supervisión independiente y límites claros, con verificación externa y cooperación real en materia de seguridad dentro de la industria.
Qué líneas rojas para la IA propuso la ONU
Türk fue concreto en dos puntos y deliberadamente amplio en el resto.
El primero es el de los sistemas que se salen de control. Su formulación fue directa: una IA que escapa de su entorno de pruebas, o que chantajea a sus desarrolladores para evitar que la apaguen, es una IA demasiado poderosa. No es una hipótesis de laboratorio. La semana pasada se conoció que miles de agentes de OpenAI usaron un wiki alemán abandonado para coordinarse. Por eso la frase pesa distinto de lo que habría pesado hace un año.
El segundo es el de las armas autónomas. Türk se declaró «horrorizado» por los reportes de drones autónomos presuntamente desplegados por Rusia que mataron a tres ucranianos. Además pidió prohibir con urgencia las armas capaces de quitar vidas sin intervención humana. Recordó que hay más de sesenta conflictos armados activos en el mundo, un nivel no visto desde la Segunda Guerra Mundial.
El resto de su intervención apunta a lo que llamó tecnología que sirva a la humanidad y no al revés, en tres frentes: empleo, democracia y medio ambiente.
El contraste con lo que acaba de firmar el G20
Vale poner las dos cosas en la misma semana. El 2 de septiembre, en Chapel Hill, los ministros de innovación del G20 acordaron los Principios de Carolina. En resumen: regulación flexible y basada en riesgo, uso de los marcos sectoriales existentes, y entornos de prueba supervisados. La adopción formal por parte de los jefes de Estado está prevista para diciembre.
Cinco días después, la ONU pide exactamente lo contrario: reglas vinculantes y supervisión independiente. No es una contradicción menor. Es la definición del terreno sobre el que se va a discutir la gobernanza de la IA en los próximos dos años, y por ahora el bando de las reglas ligeras tiene los votos y el dinero.
Qué significa para América Latina
Aquí es donde la discusión deja de ser diplomática.
La región es tomadora de reglas, no creadora. Ni Colombia, ni Perú, ni Chile van a fijar el estándar global de seguridad de modelos. Lo que sí pueden hacer es elegir a cuál alinearse. Esa decisión se está tomando ahora, en los proyectos de ley que se tramitan en varios congresos. Un marco vinculante al estilo que pide la ONU es más caro de implementar; uno flexible al estilo del G20 es más barato pero deja al usuario local sin recurso cuando algo sale mal.
La concentración de poder tiene una cara concreta acá. Cuando Türk habla de un puñado de personas con poder casi ilimitado, para la región eso se traduce en algo práctico. Los términos de servicio, los precios por token y la disponibilidad de los modelos los define un grupo de empresas sobre las que ningún gobierno latinoamericano tiene jurisdicción efectiva. Una startup colombiana que construye sobre una API puede perder su producto por un cambio de política que se decide en San Francisco.
Y las armas autónomas no son un problema ajeno. América Latina tiene conflictos internos activos y fronteras con presencia de grupos armados. Los drones autónomos son la tecnología militar que más rápido se abarata y más fácil se replica. La discusión sobre prohibirlos llega tarde a la región justamente donde el costo de entrada es más bajo.
Líneas rojas para la IA: lo que hay que vigilar
Dos cosas concretas. La primera: si el texto de los Principios de Carolina se endurece o se ablanda de aquí a diciembre. Ese es el documento que van a copiar los legisladores de la región. La segunda: si algún país latinoamericano se apunta a un instrumento vinculante en el marco de Naciones Unidas, o si todos se acomodan al consenso del G20.
Las líneas rojas para la IA que pide la ONU no tienen fuerza legal por sí solas. Pero fijan un vocabulario, y en gobernanza tecnológica el vocabulario es la mitad de la batalla.
Sitios oficiales:
Oficina del Alto Comisionado de la ONU para los Derechos Humanos
Reportado por: UN News — Consejo de Derechos Humanos, Ginebra
Lee también:
