Project Lily: los humanos que leen tus chats de ChatGPT (y cómo apagarlo)
Project Lily es el nombre interno del programa con el que OpenAI contrató a cientos de personas para leer conversaciones reales de ChatGPT. No es un rumor de foro: son documentos internos a los que accedió el medio 404 Media. Los revisores no ven tu nombre de usuario, pero sí ven lo que escribiste. Y la casilla que lo autoriza viene activada por defecto.
Qué es Project Lily y qué ven los revisores
El trabajo consiste en calificar respuestas. Un contratista recibe una conversación real entre un usuario y el chatbot, y puntúa qué tan buena fue la respuesta del modelo: si respondió lo que se le pidió, si se equivocó, si se fue por las ramas. Esas calificaciones alimentan el entrenamiento posterior.
Además, no se trata de fragmentos sueltos. Según el reporte, los revisores acceden a conversaciones completas, no a la pregunta aislada. Eso importa, porque el contexto es justamente donde la gente suelta los detalles personales.
OpenAI afirma que intenta eliminar la información personal antes de que los textos lleguen a los revisores. Sin embargo, la compañía reconoce que datos sensibles se cuelan de todos modos. Un contratista lo resumió con una frase incómoda: no cree que los usuarios se imaginen que alguien, en algún lado, está analizando sus conversaciones.
Conviene decir también lo que no es. Esto no es una filtración ni un hackeo: es una práctica estándar de la industria, declarada en los términos de servicio. Anthropic confirmó que también usa revisión humana para mejorar sus modelos. Lo que cambia con este reporte es que deja de ser una línea en un documento legal y pasa a tener escala, nombre y sueldo.
La casilla que casi nadie ha visto
Aquí está la parte accionable, y es más simple de lo que parece. En los planes personales de ChatGPT existe un ajuste llamado «Mejorar el modelo para todos», y viene encendido de fábrica. Mientras esté encendido, tus conversaciones pueden entrar en el circuito de revisión de Project Lily.
Para apagarlo en el navegador: icono de tu perfil → Configuración → Controles de datos → desactivar «Mejorar el modelo para todos». En el celular: menú lateral → tu perfil → Controles de datos → el mismo interruptor. Puedes verificarlo tú mismo en la documentación oficial de controles de datos.
Tres precisiones que vale la pena conocer. Primero, el ajuste se sincroniza entre dispositivos, así que basta hacerlo una vez. Segundo, tu historial no se borra: sigue ahí, simplemente deja de usarse para entrenar. Tercero, los chats temporales nunca se usan para entrenamiento, con el interruptor encendido o apagado, y se eliminan a los 30 días.
Los planes Team, Enterprise y Edu funcionan con controles de datos distintos y más estrictos. Si tu empresa te dio la cuenta, la configuración no depende de ti sino de quien administra el espacio de trabajo.
Qué significa para América Latina
El riesgo real está en el trabajo, no en el chat personal. Un contador que pega el estado financiero de un cliente, un abogado que sube el borrador de una demanda o un médico que consulta un caso están moviendo información de terceros que no dieron ningún consentimiento. En Colombia eso cae bajo la Ley 1581 de 2012 de protección de datos, y la responsabilidad es de quien pegó el texto, no de OpenAI.
Por eso conviene separar cuentas. La regla práctica que funciona en equipos pequeños: una cuenta personal para lo personal, una cuenta corporativa con controles de datos para lo del trabajo, y la costumbre de anonimizar antes de pegar. Cambiar nombres propios y cédulas por etiquetas genéricas toma quince segundos y cambia por completo el escenario.
Y hay un punto de contratos públicos. Varias entidades de la región ya exigen en sus pliegos que los datos no se usen para entrenar modelos de terceros. Si vendes software que corre sobre ChatGPT, ese interruptor deja de ser una preferencia y pasa a ser una cláusula que alguien va a auditar.
Project Lily y el precio de lo gratis
Lo interesante del caso no es el escándalo, porque en rigor no lo hay: todo esto estaba declarado. Lo interesante es la distancia entre lo que la gente acepta y lo que la gente cree que aceptó.
Una conversación con un chatbot se siente privada. La interfaz es un cuadro de texto, no un formulario público, y la persona del otro lado responde como si fuera un interlocutor. Nada en esa experiencia sugiere que un revisor la va a leer después. Ahora bien, alguien tiene que calificar las respuestas para que el modelo mejore, y ese alguien es humano.
La conclusión de todo esto no es dejar de usar la herramienta por Project Lily. Es tratarla como lo que es: un servicio de un tercero, con un ajuste que puedes cambiar en treinta segundos y una regla de higiene que conviene adoptar antes de pegar información que no es tuya.
Sitios oficiales:
OpenAI ·
Controles de datos
Reportado por: 404 Media
Lee también:
La Agents API de OpenAI entra en beta pública
California crea el primer sistema de auditoría de IA
