JEV - 反トークンの台帳は、これを先に出さない
既存のラボは Jev を作れます。台帳は生成量で課金し、組織はモデルと業務を切り離すので、彼らは先に作りません。先に作る者は、価格表を逆向きに書けなければなりません。
共著者：folkbench.com （Folkbench は、AI API、モデルサービス、関連サイト向けの、検証できる評価・選定プラットフォームです。公開されたサービス情報、価格、可用性、レイテンシ、証拠の期間をもとに、利用者が経路を比較して選べるようにします。）
この一連は、十篇です。
- JEV - 関節に脳は要りません
- JEV - 制御ノードの潤滑剤
- JEV - BERT から、一枚の分布へ
- JEV - 呪文ではなく、閉じた問いを設計する
- JEV - 反トークンの台帳は、これを先に出さない
- JEV - 返るのは分布だけ、二つの demo
- JEV - ループを出る：確信度をコードに書く
- JEV - 線を越えたあと、より賢さは売りにならない
- JEV - 直感と理性：関節に問わない言葉
- JEV - 画面操作から、確率だけへ
工学の側から見ると、既存のラボは Jev を作れます。新しい演算子はなく、他の誰にも手に入らない重みファイルもありません。これは、業務の状態と閉じた判断を一つの製品に束ねたものです。半チームと数週間で、動く版が作れます。技術的には成り立ちます。
組織と台帳の側から見ると、彼らは先に作りません。これはクリステンセンが書いたジレンマです。作れることと、自分の利益を使って作る気があることは、同じ事実ではありません。
技術が難しい部分ではない
RAG や、複数の Agent を持つ状態機械を組んだ人なら、Jev が場面を押さえつけて勝つのではないと分かります。それは「推論の出力」を一つの分布まで落とします。
生成の経路はこうです。利用者が必要を述べ、モデルが長いテキストかコードを書き、人か次の Agent がそれを読み解きます。
Jev の経路はこうです。システムが先に状態を抜き、モデルは閉じた問いの上でだけ確率を割り当て、硬い分岐はコードへ戻り、それから結果が返ります。
ラボは数人を割いて、内部の実験を回せます。それが中核の価格表に入らないのは、価格表の向きが逆だからです。
token の台帳は逆に書かれている
既存大手の生成事業は、API でも席単位でも、一つの仮定に歯車が噛みます。生成するほど、売上が大きい。内部の問いはそれに合わせて育ちます。報告をどう長くするか。思考の連鎖をもう一回りどう足すか。文脈をどう 100万 token、それから 200万 token まで伸ばすか。
Jev は逆向きに動きます。システムをまたぐ比較で、履歴の全部を対話のモデルに渡すと、入力は数万 token、出力は数千 token になり得て、一回の呼び出しは数セントになり得ます。先に状態を搾り、閉じた問いだけを聞くと、入力は数百 token まで落ち、出力は課金されません。公開されている入力価格は、100万 token あたり $0.042 です。差は数パーセントではありません。
クラウド部門にとって、検討の場の文はこうです。同じ仕事はなおできて、顧客がここで燃やす token ははるかに少ない。これは部門自身の売上を食べます。資源は、もっと token を使うプロジェクトへ流れます。出力を乾くまで絞るものは、今の評価表では利幅の低い端に見えます。
壊すものは、しばしばこう始まります。単価が低く、端の節点に仕え、既存の損益計算書はそれを尊びません。Jev はその窪地から上へ育ちます。既存大手は盲目ではありません。台帳が、彼らが先に動くことを許さないのです。
人と視点が合わない
もっと静かな壁があります。既存大手の仕事は、しばしば割れています。
- モデルの側は、損失、順位表、文脈の長さ、処理量を見ます。あらゆる問題に「モデルが強くなった」と答えます。
- 業務の側は、決定的なコード、取引、小さなサービスを見ます。モデルは黒い箱です。使わないか、丸ごと飲み込みます。
関節には、第三の種類の人が要ります。彼らは泥臭い業務システムを書いてきて、モデルが確率的な帰納には強く、正規表現や電卓として使うと弱いことを知っています。どこで切るかも知っています。
- モデルにプログラム全体を生成させないでください。分岐で一度だけ分類させてください。
- モデルに文脈の全部を持たせないでください。先に文脈を列挙へ落としてください。
- 骨格はコードのままです。モデルは関節でだけ経路を振ります。
こんなにきれいに切られた組織では、この仕事は誰の職務でもありません。アルゴリズムは業務すぎると言い、業務は不確かだと言います。小さなチームでは二つの視点がまだ同じ一人に重なり、製品を束ねられます。
破壊は低いところから始まる
大型機は個人用コンピュータを見て、利益の薄い玩具だと思いました。通信事業者は即時のメッセージを見て、SMS を食べていると思いました。今日の祝祭は、計算を売り、token を売り、パラメータ数を比べることです。
Jev が指しているのは、別の一文です。大規模な利用は、token が高くなる場所で起きるとは限りません。token が乾くまで搾られ、判断がインフラへ戻る場所で起きるかもしれません。
既存大手は作れます。彼らはたいていかつての利益が一巡して食われるまで待ち、それから同じ戦いに引き込まれます。先に作る人は、価格表を逆向きに書ける人です。