JEV - 直感と理性：関節に問わない言葉
関節が受けるのは、すでに閉じた速い判断だけです。遅い思考、人に話さなければならない理由、まだ割っていない開いた問いは Jev に渡しません。0.99 は認可ではなく、会計の検査はコードに残します。
共著者：folkbench.com （Folkbench は、AI API、モデルサービス、関連サイト向けの、検証できる評価・選定プラットフォームです。公開されたサービス情報、価格、可用性、レイテンシ、証拠の期間をもとに、利用者が経路を比較して選べるようにします。）
この一連は、十篇です。
- JEV - 関節に脳は要りません
- JEV - 制御ノードの潤滑剤
- JEV - BERT から、一枚の分布へ
- JEV - 呪文ではなく、閉じた問いを設計する
- JEV - 反トークンの台帳は、これを先に出さない
- JEV - 返るのは分布だけ、二つの demo
- JEV - ループを出る：確信度をコードに書く
- JEV - 線を越えたあと、より賢さは売りにならない
- JEV - 直感と理性：関節に問わない言葉
- JEV - 画面操作から、確率だけへ
いくつかの問いはそれには属さない。礼儀のためではない。層を間違えて問うからだ。Kahneman は認知を速い層と遅い層に分けた。関節が担うべきなのは速い層だけであり、しかもすでに閉じた判断だけである。遅い思考、人に言わなければならない理由、まだ割っていない開いた問いを Jev に渡すのは、口のないモデルに作文を頼むことだ。
速い層と遅い層
System 1 は速くて安く、パターンに頼る。System 2 は遅くて高く、推論と慎重な選択を担う。
ソフトウェアの決定的な分岐は、もともと遅い思考の硬い投影だった。すべての if は書き出されている。大きなモデルが来てから、シリコンは初めて強い速い判断を持った。連想、調子、文脈の感覚、直感に近いものだ。純粋な速い判断はもろい。密な手順の前で失敗し、反省がなければ誤りを丸く言い繕う。
だから今日のアーキテクチャは遅い層を呼び戻す。思考の連鎖、自己の点検、道具、長い計画。速い層は連想と意図を扱う。遅い層は検証と多段の導出を扱う。これは、高い注意を例外と新しい問題にだけ使う脳である。杯に手を伸ばすたびに熟慮の一式を広げていたら、代謝が先に尽きる。
関節に属さないのは、広げなければならない話だ。
直感が足りないとき、遅い層を起こす
初期の配備は、細部の一つ一つに巨大な計算を押し通し、得たのは高い token の使用と高い遅延だった。巧みなのは、閉じた直感をいつ信じ、いつ問いを上へ送るかを知ることだ。
- 普通の振り分け、程度、境界の内か外か。閉じた問いである。
- 数学の導出、生成しなければならないコード、多段の計画、人に説明しなければならない理由。話せるモデルを起こし、ゆっくり進ませる。
この切り替えは趣味ではない。層を間違えて問うと、関節は書けない文を書くよう強いられるか、脳が膝反射に浪費される。
関節に問うてはいけないこと
具体的にはこれらだ。
- やり方を列挙し終えていないのに「次に何をすべきか」と問うてはいけない。Choice にないマスは埋まらない。
- 返信、評、人が読まなければならない理由を書かせてはいけない。その口は知能層のものである。
- 計算機、正規表現、トランザクションになってくれと問うてはいけない。端まで書き切れる規則は、反射まで上げてはいけない。
- 三つの直交する問いを、一つの総合問いで替えてはいけない。券を出すか、通すか、詐欺に見えるか。割ってから問う。
- 0.99 が返っただけで、コードにあるべき会計と権限の検査を飛ばしてはいけない。確率は認可ではない。
合う問いは、依頼に見えないほど短い。この state で、主な意図はどの段か。負の程度はどの段に落ちるか。この一文は境界を越えるか。熟練した人が一秒以内にできる判断が、その問いである。長い分析を要する問いは、丸ごとここには属さない。
思考は一つの神に収められなかった
すべての層を抱える一つのモデルを造ることは、この時期でもっともありふれた幻想である。工学と実践は、別の一文に近い。脳は脳に属し、関節は関節に属する。
脳は意図を理解し、人に話し、全体の計画を作る。関節は閉じた判断をし、高い並行性で振り分け、傾きをコードに渡す。下にある規則と実行は、骨のように確定したままである。
技術の終わりは、シリコンでこれらの層を平らにすることではない。速いものと遅いものが分かれてから、どの話は直感が受けられるか、どの話は問うた瞬間にシステムを高くするのかが見える。それに属さないものは、遅い層に残すか、人のところに残す。