誤解を招かないLLM API負荷テスト
本番実践ガイド：誤解を招かないLLM API負荷テスト。決定的な成果物、失敗境界、段階的展開の確認、根拠付きの制約を示します。
本番実践ガイド：誤解を招かないLLM API負荷テスト。決定的な成果物、失敗境界、段階的展開の確認、根拠付きの制約を示します。
先に結論
誤解を招かないLLM API負荷テストは単独のコード変更ではなく、明示的な本番契約です。トラフィック移行前に成功条件、最終失敗状態、ロールバック条件を決め、証拠と推測を分離してください。
workloadから始め、決定的なケースで trafficを証明し、ethicsを公開後の課題ではなくリリース条件にします。
再利用できる技術成果物
各行の証拠が同じリクエスト、テスト期間、または設定バージョンに属する場合だけ合格とします。
| 確認点 | 保存する証拠 | 合格条件 |
|---|---|---|
workload |
prompt/output_distributions,stream_share,tools,schema |
owner、情報源、確認日、既知の制限を記録します。 |
traffic |
arrival_model,concurrency,warm-up,duration,region |
上限が明示され、超過時は閉じた失敗になります。 |
routing |
model_ID,route_version,fallback_and_retry_policy |
owner、情報源、確認日、既知の制限を記録します。 |
measurement |
eligible_denominator,errors,p50/p95/p99,TTFT_definition |
ワイヤ境界で値を正確に保存し比較します。 |
saturation |
queue,admission_rejects,upstream_429,timeout_phase |
一つの論理リクエストと具体的試行を結びます。 |
ethics |
owned_endpoint_and_approved_capacity;never_test_third_parties |
実行直前に主体、スコープ、ポリシーを確認します。 |
具体例
例は合成データによる決定的なものです。レビュー済みの自社値に置き換え、本番秘密情報や顧客データを含めないでください。
scenario: steady_mixed
duration: 20m
warmup: 5m
arrival_rate_rps: 2
max_concurrency: 24
requests:
short: 60%
long: 25%
tool: 10%
structured: 5%
thresholds:
error_rate: "< 0.01"
first_output_p95_ms: "< reviewed_target"
report_failures: true
実装手順
- 変更前のリクエスト、レスポンス、設定、観測基準を固定します。
- 決定的な正常ケースを実行し、クライアント結果を完全に保存します。
- 対応する異常または上限ケースを実行します。
- 全試行を一つの論理 request ID で結び、機密本文を除いて時間、終端状態、usage を記録します。
- 停止条件を持つ限定コホートで段階的に展開します。
- 永続状態と公開挙動を再読し、不変条件が崩れたら準備済みのロールバックを実行します。
失敗パターン
外側の HTTP が成功して見えても、次の状態では結果は無効です。
- 負荷、同時実行、失敗、地域、期間なしで percentile を公開します。
- 試行予算のない再試行が負荷を増幅します。
- 取消がキューと upstream に届かず容量を消費し続けます。
- プロンプト、キー、機密引数をテレメトリへ保存します。
Modelflare の境界
Modelflare は OpenAI 互換ルーティング、キー、グループ、usage、失敗処理を集約できますが、設定済みルートは任意機能の対応証明ではありません。モデルとチャネルをネイティブプロトコルで確認し、明示的なゼロ値を保ち、永続的な最終精算だけを課金の正とします。
広い判断境界は親ガイド、現在のクライアント設定はセットアップ文書を参照してください。
公開前チェックリスト
- 背景より先に主質問へ回答する。
- 各フィールド、状態、指標、式の owner を決める。
- 合成識別子だけを使う。
- 全言語で構造、コード、制限、注意を保つ。
- T-1 に契約、対応状況、価格を再確認し、事実が変われば日程を移す。
- 予定時刻前は public API、各言語ルート、sitemap から除外する。
情報源と確認日
情報源は 2026-08-07 に確認しました。未検証ルートの対応を証明するものではありません。