JEV - 反 Token 經濟學:大廠為什麼不先做

大廠做得出 Jev。帳本按生成量計費,組織又把模型和業務切開,所以他們不先做。先做的人得肯把價目寫反。

JEV - 反 Token 經濟學:大廠為什麼不先做

聯合作者:folkbench.com (Folkbench 是面向 AI API、模型服務及相關站點的可覆核評測與選擇平台,依據已發布的服務資料、價格、可用性、延遲與證據窗口,幫助用戶比較並選擇使用路徑。)

這一組共十篇:

從工程上看,大廠做得出 Jev。沒有一種新算子,也沒有一份別人拿不到的權重。它是把業務狀態和封閉判斷收成一種產品。半個小組、幾週,做出一個能跑的版本,技術上成立。

從組織和帳本上看,他們不先做。這是克里斯坦森寫過的那種窘境:能做,和願不願意用自己的利潤去做,不是同一件事。

技術上不難

搭過 RAG、寫過多智能體狀態機的人看得出,Jev 不是靠把場景壓服。它是把「推理輸出」降到一張分佈。

生成式產品的路徑是:使用者說出需求,模型寫下大段文字或程式碼,人或下一個智能體再去解析。

Jev 的路徑是:系統先抽出狀態,模型只在封閉題上給機率,硬分支回到程式碼,再返回結果。

實驗室抽幾個人,做一個內部實驗,做得到。它進不了核心價目,是因為價目的方向反了。

賣 token 的帳本寫反了

大廠的生成式業務,無論按 API 還是按席位,齒輪都咬在同一條假設上:生成得越多,流水越大。內部問題因此長成這樣:怎樣讓報告更長,怎樣讓思維鏈多轉幾輪,怎樣把上下文撐到一百萬、兩百萬 token。

Jev 是反著的。一次跨系統的比對,如果把整段歷史交給聊天模型,輸入上萬 token、輸出上千 token,單次可以到幾美分。把狀態先擠乾,只問封閉題,輸入可以壓到幾百 token,輸出不計費。公開的輸入價是 0.042 美元 / 百萬 token。量級上的差距不是百分之幾。

對雲部門來說,這個產品的匯報句是:同一件事還能做,客戶在我們這裡燒掉的 token 會少掉一大截。這是蠶食自己的收入。資源會流向更耗 token 的專案。把輸出壓乾的東西,在現行考核裡像低毛利的下沿。

破壞性的東西開始時常常就是這樣:單價低,服務的是邊緣節點,現有利潤表看不起它。Jev 從這處窪地往上長。大廠不是盲,是帳本不允許他們先動手。

人和視角對不上

還有一層更安靜的壁壘。大廠的分工常常是切開的。

  1. 模型一側看損失、榜單、上下文長度和吞吐。習慣用「模型更強」回答所有問題。
  2. 業務一側看確定性程式碼、事務和微服務。把模型當黑盒:不用,或者整段接進來。

關節需要第三種人。他們寫過泥濘的業務系統,也知道模型擅長機率歸納、不擅長被當成正則和計算器。這種人知道在哪裡下刀:

  • 不必讓模型生成整段程式碼,只讓它在分支點上做一次分類。
  • 不必讓模型裝下全部上下文,先把上下文收成列舉。
  • 骨架仍是程式碼。模型只在關節上做路由。

在切得很開的組織裡,這種工作兩邊都不算本職。演算法覺得太業務,業務覺得不確定。小團隊裡兩種視角還疊在同一個人身上,產品才收得攏。

破壞從低處發生

大型機看過個人電腦,覺得那是利潤太薄的玩具。營運商看過即時通訊,覺得那在吃簡訊。今天的狂歡是賣算力、賣 token、比參數。

Jev 提醒的是另一句:大規模落地也許不發生在 token 越來越貴的地方,而發生在 token 被擠乾、判斷變回基礎設施的地方。

大廠做得出。他們多半會等舊利潤被啃過一輪,再被拉進同一場。先做的人,是肯把價目寫反的人。

系列