Calcular el coste de tokens LLM por solicitud

Guía de producción: Calcular el coste de tokens LLM por solicitud. Incluye un artefacto determinista, límites de fallo, controles de despliegue y fuentes verificadas.

Calcular el coste de tokens LLM por solicitud

Guía de producción: Calcular el coste de tokens LLM por solicitud. Incluye un artefacto determinista, límites de fallo, controles de despliegue y fuentes verificadas.

Decisión primero

Calcular el coste de tokens LLM por solicitud es un contrato explícito de producción, no un cambio aislado. Defina éxito, fallo terminal y rollback antes de mover tráfico; el artefacto separa evidencia de supuestos.

Empiece por usage_source, demuestre input con un caso determinista y convierta settlement en una condición de despliegue.

Artefacto reutilizable

Una fila solo pasa cuando la evidencia procede de la misma solicitud, ventana de prueba o versión de configuración.

Punto de control Evidencia Condición de aprobación
usage_source provider_usage_or_named_normalization_rule Owner, fuente, fecha y limitación quedan registrados.
input uncached_input_tokens_after_category_separation El valor se conserva y compara exactamente en el límite del protocolo.
cache cache_read_and_cache_write_token_categories El valor se conserva y compara exactamente en el límite del protocolo.
output visible_and_reasoning_output_under_the_owned_price_rule El valor se conserva y compara exactamente en el límite del protocolo.
formula versioned_coefficients_in_currency_per_one_million_tokens Owner, fuente, fecha y limitación quedan registrados.
settlement reserve->actual_usage->idempotent_final_charge/refund Reserva, observación y valor final cuadran en un ledger duradero.

Ejemplo resuelto

El ejemplo es sintético y determinista. Sustituya parámetros por valores revisados; no incluya secretos ni datos de clientes.

input_tokens = 1200
cache_read_tokens = 800
cache_write_tokens = 0
output_tokens = 300

cost = (input_tokens * input_rate
      + cache_read_tokens * cache_read_rate
      + cache_write_tokens * cache_write_rate
      + output_tokens * output_rate) / 1_000_000

round_at = owned_currency_or_quota_boundary

Procedimiento de implantación

  1. Congele solicitud, respuesta, configuración y línea base observable.
  2. Ejecute un caso positivo determinista y conserve el resultado completo.
  3. Ejecute el caso negativo o límite correspondiente.
  4. Una todos los intentos con un ID lógico y registre tiempo, estado final y uso sin contenido sensible.
  5. Despliegue en una cohorte acotada con condiciones de parada.
  6. Relea el estado duradero y el comportamiento público; revierta si falla una invariante.

Modos de fallo

Estos fallos invalidan el resultado aunque el HTTP exterior parezca correcto:

  • Se publica un precio o contrato volátil sin revalidarlo.
  • Falta reserva atómica y solicitudes concurrentes exceden el límite.
  • Se lee un campo cómodo y se pierden outputs tipados, tools, rechazos o resultados parciales.
  • El coste compartido se asigna de forma que el total ya no reconcilia.

Límite de Modelflare

Modelflare centraliza rutas compatibles con OpenAI, claves, grupos, uso y fallos, pero una ruta configurada no prueba todas las capacidades del proveedor. Verifique modelo y canal por el protocolo nativo; conserve ceros explícitos y use la liquidación duradera como verdad de facturación.

Consulte la guía principal para el límite de decisión y la documentación para la configuración actual.

Lista previa a publicación

  • Responder primero a la pregunta principal.
  • Asignar un owner a cada campo, estado, métrica y fórmula.
  • Usar solo identificadores sintéticos.
  • Mantener estructura, código, límites y advertencias en todos los idiomas.
  • Revalidar contratos, soporte y precios en T-1; mover la fecha si cambia un hecho.
  • Antes de la hora, excluir la página de API pública, rutas y sitemap.

Fuentes y fecha de verificación

Fuentes verificadas el 2026-08-07; no demuestran compatibilidad de una ruta no probada.