Dario Amodei pide frenar la IA y da un plazo: seis a doce meses
Dario Amodei publicó un ensayo pidiendo que la industria de la inteligencia artificial frene, y no es una reflexión abstracta: viene con un plazo. Dentro de seis a doce meses, escribe, enjambres de agentes mal alineados podrían causar daños por cientos de miles de millones de dólares. El texto se llama «We Must Pace the Frontier» y lo firma el director ejecutivo de una de las tres compañías que están corriendo más rápido.
El plan de tres pasos que propone Dario Amodei
El ensayo no se queda en la advertencia. Propone una secuencia concreta, y en orden de dificultad creciente.
Primero, evaluadores incrustados. Revisores externos con acceso de nivel empleado dentro de los laboratorios: oficina, permisos de herramientas comparables a los de los equipos internos de riesgo y derecho a publicar sus hallazgos. La compañía solo podría censurar información sensible de seguridad o confidencial.
Segundo, coordinación entre democracias. Que las empresas de frontera acuerden estándares comunes de seguridad, con mediación de los gobiernos si hace falta.
Tercero, coordinación global. Que los gobiernos democráticos negocien acuerdos de ritmo con regímenes autoritarios. Es el paso más difícil y el propio texto lo reconoce.
De los tres, Anthropic se compromete unilateralmente al primero. Eso es lo que distingue a este ensayo de los muchos llamados a la prudencia que circulan: alguien pone algo sobre la mesa antes de que lo obliguen.
Los números del argumento
Conviene mirar las cifras que maneja el texto, porque marcan el tono.
Por el lado optimista, sostiene que la IA podría curar la mayoría de las enfermedades graves en un plazo de cinco a diez años, y que el avance necesario en interpretabilidad y evaluación es alcanzable en uno o dos años.
Por el lado del riesgo, el plazo de seis a doce meses para enjambres de agentes capaces de causar daños masivos, y la afirmación de que frenar a China ampliaría significativamente la ventaja estadounidense en los próximos tres a cinco años.
Ese último punto es el que más va a discutirse. Es un argumento de seguridad que también es, convenientemente, un argumento competitivo.
Dario Amodei no está solo esta semana
Satya Nadella respaldó públicamente la idea de un ritmo deliberado para acertar con la alineación, y presentó un código de conducta para los modelos MAI de Microsoft. Y según reportó The Information, Anthropic, OpenAI y Google llevan desde julio reuniéndose para armar un organismo de estándares de la industria.
Es decir: no es la salida de tono de un directivo. Es un movimiento coordinado, o al menos simultáneo, de varias de las compañías más grandes del sector.
Qué significa para América Latina
La región no está en ninguna de las tres mesas. El plan habla de laboratorios de frontera, de democracias con capacidad de mediación y de negociación con potencias. Colombia, México o Brasil no aparecen en ninguna de esas categorías. Lo que se decida se aplicará a los modelos que la región consume, sin que la región participe.
Y por eso la evaluación local importa más, no menos. Si el estándar se define afuera, lo único que queda del lado de acá es la capacidad de verificar cómo se comporta un modelo en español, con datos locales y en casos de uso locales. California acaba de crear un registro de auditores; la región todavía no tiene ni la figura.
Ojo también con el efecto en los precios. Un ritmo más lento significa modelos que cambian menos seguido. Para una empresa que integra IA, eso es bueno: menos migraciones forzadas, más estabilidad de contratos. Es de las pocas consecuencias claramente favorables para quien compra y no desarrolla.
El punto de fondo
Hay una tensión evidente en pedir freno desde la cabina del auto que va adelante. Dario Amodei lo sabe, y por eso el ensayo empieza por lo que Anthropic cede antes que por lo que pide a los demás.
Aun así, la prueba real no es el texto. Es si los evaluadores incrustados terminan publicando algo incómodo, y si la compañía lo permite cuando pase. Eso se sabrá en meses, no en la semana del anuncio.
Fuente primaria:
el ensayo completo ·
Anthropic
Reportado por: The Information — Techmeme
Lee también:
