2026-11-10

Medir coste y ahorro de Prompt Caching

Guía de producción: Medir coste y ahorro de Prompt Caching. Incluye un artefacto determinista, límites de fallo, controles de despliegue y fuentes verificadas.

Decisión primero

Medir coste y ahorro de Prompt Caching es un contrato explícito de producción, no un cambio aislado. Defina éxito, fallo terminal y rollback antes de mover tráfico; el artefacto separa evidencia de supuestos.

Empiece por prefix, demuestre eligibility con un caso determinista y convierta expiry en una condición de despliegue.

Artefacto reutilizable

Una fila solo pasa cuando la evidencia procede de la misma solicitud, ventana de prueba o versión de configuración.

Punto de control	Evidencia	Condición de aprobación
`prefix`	`stable_exact_prefix_before_dynamic_suffix`	El valor se conserva y compara exactamente en el límite del protocolo.
`eligibility`	`model,minimum_prompt_length,provider-specific_rules`	Owner, fuente, fecha y limitación quedan registrados.
`usage`	`uncached,cache_read,cache_write_tokens_kept_separate`	El valor se conserva y compara exactamente en el límite del protocolo.
`rates`	`dated_source_for_each_token_category`	Owner, fuente, fecha y limitación quedan registrados.
`comparison`	`same_workload_with_and_without_confirmed_cache_hit`	Reserva, observación y valor final cuadran en un ledger duradero.
`expiry`	`cache_lifetime_and_invalidation_are_not_assumed`	El límite es explícito y falla de forma cerrada.

Ejemplo resuelto

El ejemplo es sintético y determinista. Sustituya parámetros por valores revisados; no incluya secretos ni datos de clientes.

baseline_total = (all_input_tokens * input_rate
                + output_tokens * output_rate) / 1_000_000
write_cost     = cache_write_tokens * cache_write_rate / 1_000_000
read_cost      = cache_read_tokens * cache_read_rate / 1_000_000
uncached_cost  = uncached_tokens * input_rate / 1_000_000
output_cost    = output_tokens * output_rate / 1_000_000
cached_total   = write_cost + read_cost + uncached_cost + output_cost

measured_savings = baseline_total - cached_total
break_even_reuses = ceil(write_premium / per_reuse_read_savings)

Procedimiento de implantación

Congele solicitud, respuesta, configuración y línea base observable.
Ejecute un caso positivo determinista y conserve el resultado completo.
Ejecute el caso negativo o límite correspondiente.
Una todos los intentos con un ID lógico y registre tiempo, estado final y uso sin contenido sensible.
Despliegue en una cohorte acotada con condiciones de parada.
Relea el estado duradero y el comportamiento público; revierta si falla una invariante.

Modos de fallo

Estos fallos invalidan el resultado aunque el HTTP exterior parezca correcto:

Se publica un precio o contrato volátil sin revalidarlo.
Se lee un campo cómodo y se pierden outputs tipados, tools, rechazos o resultados parciales.
Una sola respuesta de texto se toma como prueba de compatibilidad completa.
El coste compartido se asigna de forma que el total ya no reconcilia.

Límite de Modelflare

Modelflare centraliza rutas compatibles con OpenAI, claves, grupos, uso y fallos, pero una ruta configurada no prueba todas las capacidades del proveedor. Verifique modelo y canal por el protocolo nativo; conserve ceros explícitos y use la liquidación duradera como verdad de facturación.

Consulte la guía principal para el límite de decisión y la documentación para la configuración actual.

Lista previa a publicación

Responder primero a la pregunta principal.
Asignar un owner a cada campo, estado, métrica y fórmula.
Usar solo identificadores sintéticos.
Mantener estructura, código, límites y advertencias en todos los idiomas.
Revalidar contratos, soporte y precios en T-1; mover la fecha si cambia un hecho.
Antes de la hora, excluir la página de API pública, rutas y sitemap.

Fuentes y fecha de verificación

Fuentes verificadas el 2026-08-07; no demuestran compatibilidad de una ruta no probada.