OpenAI, Anthropic y Google negocian en privado quién pone las reglas de la IA
Anthropic, OpenAI y Google llevan desde julio reuniéndose en privado para montar un organismo de estándares de IA creado y financiado por la propia industria. La idea, según reportó The Information, es que sean ellos quienes fijen las reglas contra las que después se evaluarán sus propios modelos. El problema está justo ahí.
Qué sería ese organismo de estándares de IA
El marco cubriría tres frentes: amenazas de ciberseguridad, riesgos biológicos y capacidades engañosas de los modelos. Es decir, exactamente los tres tipos de riesgo que hoy cada laboratorio evalúa por su cuenta y con sus propios criterios.
El origen es de julio. Demis Hassabis, de Google DeepMind, propuso un organismo al estilo de FINRA, la entidad autorregulada que supervisa a los corredores de bolsa en Estados Unidos. En septiembre, Dario Amodei publicó su ensayo pidiendo frenar el ritmo, con su propia versión del mismo problema.
No parten de cero: en diciembre de 2025 se creó la Agentic AI Foundation y en junio de 2026 la Appia Foundation, con trece miembros.
En qué no se ponen de acuerdo
Las dos propuestas apuntan distinto. Hassabis pone el acento en la evaluación externa antes del lanzamiento de un modelo. Amodei pone el acento en pactar el ritmo de avance de capacidades y en dar acceso prolongado a evaluadores independientes dentro de los laboratorios.
La diferencia parece técnica y no lo es. Evaluar antes de lanzar es una foto; pactar el ritmo es meterse en la hoja de ruta de producto de cada compañía. Lo segundo es mucho más difícil de aceptar para quien va adelante.
El otro desacuerdo es sobre el gobierno. Según el Council on Foreign Relations, la Casa Blanca ya está considerando la idea, y el marco terminaría siendo obligatorio para desplegar en Estados Unidos. Cuánto participa el Estado en su diseño es la pregunta que no está resuelta.
Estándares de IA y un precedente incómodo
Un regulador financiado por la industria que regula tiene un nombre y una historia. Las calificadoras de riesgo antes de 2008 cobraban de los mismos bancos cuyos productos calificaban, y el resultado fue que las hipotecas basura llevaban triple A.
La objeción no es que la gente del sector no sepa. Es al revés: son los únicos que saben. La objeción es de incentivos. Si los mismos que pagan al evaluador son los evaluados, la pregunta no es si el evaluador es competente, sino si puede permitirse dar una mala nota.
Es exactamente el punto que resuelve, en otra dirección, el registro de auditores que acaba de crear California: allí el Estado fija los requisitos de independencia, no el evaluado.
Qué significa para América Latina
Los estándares de IA que se definan allá van a llegar aquí igual. Es el mismo camino del reglamento europeo de datos: una norma pensada para otro mercado que termina aplicándose al producto global, incluida la versión que se vende en Bogotá o Ciudad de México. Con la diferencia de que un organismo privado no rinde cuentas a ningún parlamento.
Y los criterios se van a escribir en inglés. Evaluar capacidades engañosas o riesgo biológico en un idioma no dice casi nada sobre cómo se comporta el modelo en otro. Si nadie de la región participa, nadie va a pedir que las pruebas incluyan español, contexto local o los sesgos que importan acá.
La ventana es corta. Mientras esto sea una conversación privada entre tres empresas, no hay a quién dirigirse. Cuando se formalice, ya estarán fijados los criterios. Los gobiernos de la región que están escribiendo sus marcos de IA harían bien en mirar esto antes de terminar sus proyectos de ley.
El punto de fondo
Que tres competidores feroces se sienten a hablar de reglas comunes es, en sí mismo, una señal de que ven un riesgo real. Eso es lo positivo.
Lo demás depende de un detalle que todavía no está: quién puede decir que no. Un organismo de estándares de IA sin capacidad de vetar un lanzamiento es un documento de buenas intenciones con logo. Con esa capacidad, es otra cosa. La diferencia se va a jugar en la letra pequeña.
Sitios oficiales:
OpenAI ·
Anthropic ·
Google DeepMind
Reportado por: The Information
Lee también:
