Prompt caching, leído en tu factura
Cómo auditar lo que el prompt caching ahorra de verdad: las dos columnas de caché de cada petición, una tasa de acierto que puedes calcular y los tres patrones que matan el ahorro en silencio.
El prompt caching se vende como descuento. Tu factura es donde ese descuento se demuestra o se pierde en silencio. La mayoría de las explicaciones se quedan en el mecanismo; este post te enseña a leer tus propios números — porque un ahorro que no puedes verificar es solo un número más pequeño en el que sigues confiando.
Transparencia desde el principio: opero Teapot Router, un gateway de API cuyo workspace muestra coste por petición, tokens y columnas de caché, con exportación. El método de auditoría de abajo funciona en cualquier endpoint que exponga los mismos números.
Dos columnas deciden tu descuento
El caching factura en dos conteos especiales de tokens. Tokens de creación de caché: la primera escritura de un prefijo estable del prompt, facturada con una prima moderada sobre el precio normal de entrada. Tokens de lectura de caché: los reusos posteriores de ese mismo prefijo, facturados con descuento profundo — comúnmente un orden de magnitud por debajo de la entrada fría. Los múltiplos exactos varían por proveedor y modelo; si no están en la lista de precios publicada, eso ya es un hallazgo.
El mecanismo es el reuso de prefijo: lo que vive estable al frente de tu prompt — prompt de sistema, contexto del proyecto, la conversación previa — se procesa una vez y luego se relee barato en cada vuelta siguiente. El descuento no es un cupón. Es la consecuencia aritmética de que el frente de tu prompt no cambia.
El número que vale calcular: la tasa de acierto
Saca una semana de peticiones reales y calcula una razón: tokens de lectura de caché sobre tokens totales de entrada. El valor absoluto depende de tu carga — un usuario de chats siempre nuevos y un agente de sesión larga caen en lugares distintos — así que la señal es la tendencia, no una meta universal. Una tasa que se desliza a lo largo de la semana suele significar que algo aguas arriba del precio cambió: tus prompts, la forma de tus sesiones o tu endpoint.
Tres patrones que matan tu caché en silencio
Cuando la tendencia se desliza, busca uno de estos tres antes de culpar al proveedor:
- Prefijo inestable. Un timestamp, una instrucción rotativa o un prompt de sistema recién editado al muy frente invalida el prefijo cacheado en cada vuelta — repagas la prima de escritura y nunca cobras una lectura. El frente del prompt tiene que ser aburrido.
- Rotación de contexto en el medio. Agentes que pegan salidas de herramienta gigantes y siempre cambiantes entre vueltas mantienen el prefijo en movimiento; según dónde se siente esa rotación, el reuso se derrumba. Limpiar salida vieja de herramienta es una decisión de caché tanto como de orden.
- Sesiones más cortas que la caché. Las cachés viven poco — minutos, no días. Los huecos largos entre vueltas reinician el reloj, y una sesión troceada en muchas pequeñas quizá nunca relea lo suficiente para amortizar la prima de escritura. Sesiones menos numerosas, más largas y más estables cachean mejor.
La pregunta de la auditabilidad
Sea cual sea tu endpoint, tres preguntas deciden si el descuento de caché es real para ti: ¿el registro por petición separa creación de caché, lectura de caché y tokens fríos? ¿Los precios de caché están en la lista legible por máquina, no solo en un post del blog? ¿Puedes exportar historial suficiente para ver la tendencia de tu tasa de acierto? Si alguna respuesta es no, el ahorro es una afirmación de marketing que no puedes verificar — y los descuentos sin verificar tienen fama de evaporarse.
El registro del workspace y el endpoint público de precios son como respondemos esas preguntas en nuestro propio servicio: las columnas de caché de cada petición, exportables, con precios del mismo JSON que lee la calculadora: https://teapotrouter.com/en/claude-code-cost-calculator
El prompt caching no es una función que activas; es un comportamiento que mides. Lee las dos columnas, calcula la tasa de acierto, vigila la tendencia y arregla el prefijo antes de buscar una tarifa mejor. Un proveedor que te muestra las columnas te deja revisar su trabajo — uno que no, te está pidiendo calificar tu propio descuento con los ojos cerrados.
Preguntas frecuentes
¿El prompt caching siempre ahorra dinero?
No. Las escrituras de caché llevan una prima sobre el precio normal de entrada, así que un prefijo usado una sola vez cuesta algo más. El ahorro viene de prefijos estables releídos muchas veces — sesiones largas, prompts de sistema grandes y estáticos, documentos reutilizados.
¿Cómo calculo mi tasa de acierto de caché?
Desde el registro por petición: tokens de lectura de caché divididos por tokens totales de entrada en una semana de trabajo real. Juzga la tendencia, no una petición — una tasa a la baja apunta a cambios de prompt o de sesión antes que al precio.
¿Por qué desapareció mi ahorro por caché?
Normalmente una de tres: el prefijo dejó de ser estable (ediciones o contenido volátil al frente), los huecos ociosos crecieron más que la vida de la caché, o el endpoint cambió la contabilización — lo cual solo se ve si el registro separa las columnas.