Entre abril y octubre mis agentes de IA procesaron unos 28 mil millones de tokens. La primera vez que vi ese número en mi propio panel pensé que había roto algo grave. Miré de nuevo: el 94% de esos tokens fue texto que los modelos ya habían leído antes, y leerlo de nuevo cuesta una fracción gracias al KV cache, que gobierna todo lo que te rodea.
Casi todo el software de LENZ lo construyo con agentes de IA en OpenCode: la web de la tienda, algunas herramientas internas y este blog. Los organizo como se organiza una tienda, con un jefe que planifica y reparte, gente con experiencia que ejecuta encargos claros, un técnico senior para lo delicado y practicantes que leen pilas de documentos y traen un resumen.
| En la tienda | En la IA | Qué hace |
|---|---|---|
| Jefe de tienda | Modelo top (Opus) | Planifica, reparte el trabajo y revisa antes de entregar |
| Vendedor con experiencia | Modelo intermedio (Sonnet) | Hace el trabajo a partir de un encargo claro |
| Técnico senior | Modelo top (Fable) | Lo delicado, o lo que el vendedor no pudo resolver |
| Practicante | Modelo pequeño (Haiku) | Lee pilas de documentos y trae un resumen |
| Auditor externo | Modelo de otra empresa (DeepSeek y GPT) | Revisa y opina. Nunca toca el código |
En esos seis meses mi panel contó 1,337 conversaciones con el jefe y 2,631 sesiones de ayudantes. Un token es más o menos tres cuartos de una palabra. De todo ese volumen, el 94% fue caché leído otra vez y el 0.43% fue texto nuevo. Los ayudantes usaron como la cuarta parte de los tokens y escribieron cerca de la mitad del código.
No mandes al técnico a cambiar una pila
Cada ayudante arranca con una explicación del encargo: las instrucciones, las herramientas y la tarea. La medí: son entre 28 mil y 49 mil tokens antes de que haga algo, y la vuelve a leer en cada uno de sus ~21 pasos. Delegar una tarea chica es pagar ese peaje para ahorrarte dos minutos.
Delegar un cambio de una línea
Hacerlo yo en dos minutos
Por eso el jefe solo reparte cuando gana tiempo de verdad (dos tareas al mismo tiempo) o cuando una tarea grande le llenaría su propia conversación. Lo chico lo hace él. Lo delicado, o lo que el ayudante no pudo terminar, va al técnico senior.
En las cuatro semanas antes del 29 de julio, las conversaciones que delegaban llamaban a unos 11 ayudantes cada una. Ese día escribí esta regla y recorté la explicación inicial. En las cuatro semanas siguientes bajaron a cerca de 8, y en las cuatro posteriores a cerca de 2.
Que lo ya leído quede a la mano
Un modelo de IA no tiene memoria entre un paso y otro: en cada paso vuelve a leer toda la conversación desde arriba. Es el vendedor más dedicado que vas a conocer y también el más olvidadizo. El caché es lo que lo hace barato: lo que ya leyó queda guardado, como el catálogo que el vendedor ya tiene en la cabeza, y volver a usarlo cuesta una fracción.
El caché solo sirve si el inicio de la conversación no cambia, así que dejo fijas las instrucciones de arriba y le doy a cada ayudante un solo encargo. Además se vence a los pocos minutos sin uso, así que trabajar de corrido sale más barato que arrancar y parar.
Se escala una sola vez
Si un modelo barato falla, la tarea sube un nivel y tiene un intento más. Si también falla, el jefe cambia el plan. Nadie repite el mismo paso roto una y otra vez, porque cada intento vuelve a leer todo desde arriba.
Y solo una familia de modelos escribe código. Los de otras empresas leen y comentan, y soy yo quien los llama.
Lo que todavía no resuelvo
El reparto lo decido yo con reglas escritas en un archivo corto, no con nada automático. Sigo sin saber cuántos de esos 2,631 ayudantes hicieron falta de verdad. Y estos números los vi recién cuando armé el panel, seis meses después de empezar.
Hoy el jefe hace lo chico él mismo y reparte solo cuando dos ramas avanzan en paralelo, con una sola escalada permitida. Si vuelvo a ver 28 mil millones en el panel, al menos ya sé que no rompí nada: es solo mi equipo releyendo el catálogo.
