Calculer le coût des tokens LLM par requête

Guide de production : Calculer le coût des tokens LLM par requête. Il comprend un artefact déterministe, des limites d’échec, des contrôles de déploiement et des sources vérifiées.

Calculer le coût des tokens LLM par requête

Guide de production : Calculer le coût des tokens LLM par requête. Il comprend un artefact déterministe, des limites d’échec, des contrôles de déploiement et des sources vérifiées.

Décider d’abord

Calculer le coût des tokens LLM par requête est un contrat de production explicite, pas une modification isolée. Définissez réussite, échec terminal et rollback avant de déplacer le trafic ; l’artefact sépare preuve et hypothèse.

Commencez par usage_source, prouvez input avec un cas déterministe et faites de settlement une condition de mise en production.

Artefact réutilisable

Une ligne ne passe que si sa preuve vient de la même requête, fenêtre de test ou version de configuration.

Point de contrôle Preuve à conserver Condition de réussite
usage_source provider_usage_or_named_normalization_rule Owner, source, date et limite sont consignés.
input uncached_input_tokens_after_category_separation La valeur est préservée et comparée exactement à la frontière du protocole.
cache cache_read_and_cache_write_token_categories La valeur est préservée et comparée exactement à la frontière du protocole.
output visible_and_reasoning_output_under_the_owned_price_rule La valeur est préservée et comparée exactement à la frontière du protocole.
formula versioned_coefficients_in_currency_per_one_million_tokens Owner, source, date et limite sont consignés.
settlement reserve->actual_usage->idempotent_final_charge/refund Réservation, observation et valeur finale se rapprochent dans un registre durable.

Exemple détaillé

L’exemple est synthétique et déterministe. Utilisez vos valeurs revues, sans secret ni donnée client.

input_tokens = 1200
cache_read_tokens = 800
cache_write_tokens = 0
output_tokens = 300

cost = (input_tokens * input_rate
      + cache_read_tokens * cache_read_rate
      + cache_write_tokens * cache_write_rate
      + output_tokens * output_rate) / 1_000_000

round_at = owned_currency_or_quota_boundary

Procédure de mise en œuvre

  1. Figer requête, réponse, configuration et référence observable.
  2. Exécuter un cas positif déterministe et conserver le résultat complet.
  3. Exécuter le cas négatif ou limite associé.
  4. Relier les tentatives à un ID logique et consigner temps, état final et usage sans contenu sensible.
  5. Déployer sur une cohorte bornée avec critères d’arrêt.
  6. Relire l’état durable et le comportement public ; revenir en arrière si une invariance échoue.

Modes d’échec

Ces échecs invalident le résultat même si le HTTP externe semble réussir :

  • Un prix ou contrat volatil n’est pas revérifié.
  • Sans réservation atomique, des requêtes concurrentes dépassent la limite.
  • Un champ pratique est lu et les sorties typées, tools, refus ou résultats partiels sont perdus.
  • Le coût partagé est alloué sans rapprochement du total.

Limite de Modelflare

Modelflare centralise routage compatible OpenAI, clés, groupes, usage et erreurs, mais une route configurée ne prouve aucune capacité optionnelle. Vérifiez modèle et canal par le protocole natif, conservez les zéros explicites et prenez le règlement durable comme vérité de facturation.

La page parente couvre la décision générale et la documentation la configuration actuelle.

Liste avant publication

  • Répondre à la question principale avant le contexte.
  • Nommer un owner pour chaque champ, état, métrique et formule.
  • N’utiliser que des identifiants synthétiques.
  • Conserver structure, code, limites et avertissements dans toutes les langues.
  • Revérifier contrats, support et prix à T-1 ; déplacer la date si un fait change.
  • Avant l’heure, exclure de l’API publique, des routes et du sitemap.

Sources et date de vérification

Sources vérifiées le 2026-08-07 ; elles ne prouvent pas une route non testée.