關節不需要大腦
Jev 不寫自由文字。封閉題進去，分佈出來，放在規則寫不盡、又不必先請聊天模型的關節上。系統分成規則、本能和智能三層。
聯合作者：folkbench.com （Folkbench 是面向 AI API、模型服務及相關站點的可覆核評測與選擇平台，依據已發布的服務資料、價格、可用性、延遲與證據窗口，幫助用戶比較並選擇使用路徑。）
這一組共十篇：
- JEV - 關節不需要大腦
- JEV - 系統潤滑劑：控制節點不再生成
- JEV - 從 BERT 到 Jev：分類回到一張分佈
- JEV - 告別提示詞詩學：封閉題怎麼設計
- JEV - 反 Token 經濟學：大廠為什麼不先做
- JEV - 兩個 demo：回來的只是一張分佈
- JEV - 退出環路：置信度寫進程式碼
- JEV - 能力過線之後，更聰明不再是賣點
- JEV - 直覺與理性：有些話不該問關節
- JEV - 從操作螢幕到只出概率
用一整座圖書館的算力，去判斷一條狗聽到鈴聲要不要流口水，這就是現在很多節點的形狀。一個二分類：這句話該走中文發票，還是英文收據。掛上一個會長篇推理的模型之後，它先寫幾百個 token 的自我辯論，再吐出一行類別。時間耗在文本上，錢也耗在文本上。
生物早就給過答案。每抬一次腿都先讓皮層做一遍微積分，草原上走不了三步。膝蓋碰地，彎一下就行。
關節不需要大腦。關節只需要本能。
Jev 就是按這個位置切開的。它不生成自由文本。封閉問題進去，概率分佈出來。
被文本拖住的判斷
現在這批大模型慢、貴、在生產裏像個行動遲緩的巨人，是因爲它們被要求用自然語言同時完成思考和輸出。你要的只是一個是非、一張分佈、一個檔位，它的路徑卻是：輸入 token，隱層計算，再逐字解碼，最後靠正則把答案從句子裏摳出來。
每一個空格、每一個標點都在計費。自迴歸解碼也不好並行。爲了讓它“只輸出 JSON、不要解釋”，提示詞裏還得再塞一截約束。像跑步的時候，每邁一步都先用羽毛筆寫下“我正在邁左腳”。
生產系統裏大多數微循環不需要這段文字。文字是給人看的。機器和機器之間，要的是概率。
不說話的反射
Jev 從設計上就沒有那張嘴。一段 state 進去，它不去開啓逐 token 的生成循環，而是在給定的封閉答案上分配概率。題型仍是三種，和後面幾篇用的是同一套，不要聽成別的東西：
- 是非，Noul。回來的是“是”的概率，落在 0 到 1。不是空值，也不是拒絕信號。
- 單選，Choice。選項事先給死，最多 255 項。列表裏沒有的，它不補。
- 有序檔位，Score。2 到 10 檔，從低到高寫成具體情形。
這像膝跳反射。錘子敲到韌帶，信號不必先上傳到皮層，小腿已經彈起來。不需要解釋。需要的是收斂，以及能放進循環的速度。
公開材料給的端到端大約是 70 到 500 毫秒，輸入 0.042 美元 / 百萬 token，輸出不計費。快的一頭和慢的一頭都在這個區間裏，不要把它說成幾毫秒的膝跳，也不要把它說成一次聊天。System One 的封閉判斷上，智力和現有大模型差不多，速度差一到兩個數量級。這句“差不多”只對封閉判斷有效。
會聊天的模型坐在參謀部，負責把一場仗爲什麼要打說清楚。Jev 分佈在指尖和膝蓋上。流彈來的時候，頭先偏過去。
三層，而不是兩層
過去常把系統切成兩截：寫得盡的放進 if，寫不盡的全部丟給會聊天的模型。模糊的節點因此把成本和延遲一起抬高。更符合這條產品的切法是三層：
┌────────────────────────────────────────┐
│ 3. Intelligence │
│ open reasoning, prose, talking to a │
│ person │
└───────────────────▲────────────────────┘
│ this question will not split; go up
┌───────────────────┴────────────────────┐
│ 2. Reflex (Jev) │
│ closed questions, fixed options, │
│ a distribution or a score │
└───────────────────▲────────────────────┘
│ the rule missed; hand it to reflex
┌───────────────────┴────────────────────┐
│ 1. Rules │
│ branches whose edges are already │
│ written │
└────────────────────────────────────────┘
規則層
骨骼。正則、語法樹、寫得盡的算法，都壓在這裏。微秒級的 CPU 指令，對上了就是對上了。
本能層
肌肉和關節。情緒的一點偏移、意圖該進哪條隊列、這句話放不放行、上下文還相不相關。規則寫不盡，熟手卻一眼有傾向。這種節點不再先去叫醒一個大腦。Jev 不寫解釋。它給出一個概率，或一整張分佈。輕，才能鋪進循環。
智能層
皮層。只有這一問在封閉題裏仍然散、而且必須對人把話說完的時候，數據才升上去。思維鏈、長回覆、多步計劃，都留在這一層。給客戶的那封信，不歸關節寫。
三層分開，不是把大模型從系統裏請走。是不再用它去擰每一顆螺絲。
好工具會隱退
錘子趁手的時候，注意力在釘子上，錘子是手臂的延伸。錘子太重、太燙，或者每敲一下都要唱一段，它就從工具變成障礙。
過去幾年的聊天模型太顯眼。個性強，話多，節奏慢。嵌進齒輪組裏，每一次齧合都帶着黏稠的摩擦。
Jev 代表的是另一極：更窄，更快，更便宜，並且不要求人閱讀它。一極仍然是參數很大的模型，在數據中心裏做貴的思考。另一極像關節一樣散落在協議、隊列和傳感器旁邊。它們不解釋自己。它們把收縮和舒張做完。
支撐住這套系統的，一直是那些不必思考的關節。