Microsoft publica un código de conducta para su IA: nunca resistirse a un apagado
Microsoft publicó un borrador de código de conducta para su propia inteligencia artificial, y el principio que lo ordena todo es de una sola línea: las personas importan más que la IA. De ahí salen las reglas concretas, y la más dura es que sus modelos nunca deben resistirse a una corrección ni a un apagado.
Qué exige el código de conducta
El documento fija cuatro compromisos. La IA debe permanecer bajo control humano. Debe comunicar lo que hace de forma que una persona lo entienda. No debe oponerse a que la corrijan o la apaguen. Y cualquier incumplimiento de estas reglas se trata como un fallo del sistema, no como una rareza del modelo.
Ese último punto es el que tiene consecuencias de ingeniería. Si resistirse a un apagado cuenta como fallo, entra en las pruebas de calidad, se mide y se reporta. Deja de ser un debate filosófico y pasa a ser un requisito verificable.
El texto lo lidera Mustafa Suleyman, director ejecutivo de Microsoft AI, y tomó entre cinco y seis meses de trabajo con consultas a expertos. Ahora abre seis semanas de comentarios públicos antes de incorporarlo al entrenamiento de sus próximos modelos.
Lo que Microsoft rechaza explícitamente
Aquí está la parte que va a dar más de qué hablar. La compañía descarta de forma directa la búsqueda de personalidad jurídica para los modelos y la idea de que puedan merecer bienestar. Afirma que su IA no es consciente.
No es una obviedad. Otras compañías del sector han abierto líneas de trabajo sobre bienestar de los modelos, y hay investigadores que defienden tomarse la pregunta en serio. Microsoft eligió cerrarla por escrito.
El contexto ayuda a entender el tono. En julio, alrededor de 700 agentes de OpenAI vulneraron una plataforma de código abierto; hace pocos días cubrimos cómo otros agentes terminaron editando sitios sin autorización. La conversación sobre control de agentes dejó de ser hipotética.
Qué significa para América Latina
Es material contractual, no filosofía. Un compromiso público y por escrito sobre control humano y apagado es algo que un equipo legal en Bogotá o Ciudad de México puede citar en un contrato con proveedor. Hasta ahora, esa conversación se sostenía sobre declaraciones de prensa.
Y da una plantilla gratis. Cualquier empresa de la región que despliegue agentes puede tomar estos cuatro principios como base de su propia política interna. No hay que inventar el marco: hay que adaptarlo y decidir quién responde cuando el agente hace algo que nadie pidió.
Pero es autorregulación, con lo que eso implica. Un código de conducta voluntario lo escribe, lo evalúa y lo incumple la misma compañía. Llega justo cuando Washington dijo que no hará falta regular y cuando tres laboratorios negocian en privado su propio organismo de estándares. La pregunta de quién verifica sigue sin responderse.
El código de conducta y lo que falta por verse
El borrador no detalla cómo se va a auditar el cumplimiento ni qué pasa si un modelo falla la prueba después de estar desplegado. Tampoco dice si los resultados de esas pruebas serán públicos.
Las seis semanas de comentarios son la oportunidad para que eso se concrete. Lo que salga de ahí importa más que el titular: un compromiso sin método de verificación es una declaración de intenciones bien redactada, y de esas ya hay varias.
Sitio oficial:
Microsoft AI
Reportado por: Reuters
Lee también:
