JEV - Intuition et raison : des questions qui ne lui reviennent pas

Co-auteur : folkbench.com (Folkbench est une plateforme vérifiable d’évaluation et de sélection pour les API d’IA, les services de modèles et les sites associés. Elle s’appuie sur les informations publiées sur le service, les prix, la disponibilité, la latence et les fenêtres de preuve pour aider les utilisateurs à comparer des voies et à en choisir une.)

Dix textes dans cette série :

• JEV - Une articulation n'a pas besoin d'un cerveau
• JEV - Le lubrifiant sur les nœuds de contrôle
• JEV - De BERT à une seule distribution
• JEV - Concevoir la question fermée, pas la formule
• JEV - Le grand livre anti-token ne le sort pas d'abord
• JEV - Deux démos qui ne rendent qu'une distribution
• JEV - Sortir de la boucle : la confiance entre dans le code
• JEV - Passée la ligne, plus intelligent n'est plus le produit
• JEV - Intuition et raison : des questions qui ne lui reviennent pas
• JEV - De l'écran à une probabilité nue

Certaines questions ne lui appartiennent pas. Pas par politesse. Parce qu'on les pose à la mauvaise couche. Kahneman a séparé la cognition en une couche rapide et une couche lente. L'articulation ne doit porter que la couche rapide, et seulement les jugements déjà fermés. Donner à Jev la pensée lente, une raison qu'il faut dire à une personne, ou une question ouverte qui n'a pas encore été découpée, c'est demander une rédaction à un modèle qui n'a pas de bouche.

La couche rapide et la couche lente

System 1 est rapide et bon marché, et il s'appuie sur le motif. System 2 est lent et cher, et il porte la déduction et un choix prudent.

Les branches déterministes du logiciel étaient déjà une projection raide de la pensée lente : chaque if est écrit. Après l'arrivée des grands modèles, le silicium a eu pour la première fois un jugement rapide fort : association, ton, un sens du contexte, quelque chose comme l'intuition. Le jugement rapide pur est aussi cassant. Il échoue devant une suite serrée d'étapes, et sans réflexion il arrondit une erreur jusqu'à ce qu'elle sonne juste.

L'architecture d'aujourd'hui invite donc de nouveau la couche lente : chaîne de pensée, une vérification sur elle-même, des outils, un long plan. La couche rapide s'occupe de l'association et de l'intention. La couche lente s'occupe de la vérification et de la déduction en plusieurs étapes. C'est un cerveau qui ne dépense son attention coûteuse que pour les exceptions et les problèmes nouveaux. Si chaque geste pour prendre une tasse se déployait en délibération complète, le métabolisme lâcherait le premier.

Ce qui n'appartient pas à l'articulation, c'est la parole qu'il faut déplier.

Réveiller la couche lente quand l'intuition ne suffit pas

Les déploiements précoces ont poussé un calcul énorme à travers chaque détail, et ils ont obtenu un usage élevé de token et une latence élevée. L'habileté est de savoir quand faire confiance à une intuition fermée, et quand faire monter la question.

• Aiguillage ordinaire, degré, dans les bornes ou non : une question fermée.
• Une déduction mathématique, du code à générer, un plan en plusieurs étapes, une raison qu'il faut expliquer à une personne : réveillez un modèle qui sait parler, et laissez-le aller lentement.

Ce commutateur n'est pas une affaire de goût. Posez la question à la mauvaise couche, et ou bien l'articulation est forcée d'écrire une phrase qu'elle ne peut pas écrire, ou bien un cerveau est gaspillé sur un réflexe rotulien.

Ce qu'il ne faut pas demander à l'articulation

Concrètement, celles-ci :

• Ne demandez pas « que devons-nous faire ensuite » si vous n'avez pas fini d'énumérer les voies. Une case qui n'est pas dans le Choice n'est pas remplie.
• Ne lui demandez pas d'écrire la réponse, l'appréciation ou la raison qu'une personne doit lire. Cette bouche appartient à la couche d'intelligence.
• Ne lui demandez pas d'être une calculatrice, une expression régulière ou une transaction. Une règle dont les bords sont écrits ne doit pas monter jusqu'au réflexe.
• Ne remplacez pas trois questions orthogonales par une question combinée. Faut-il émettre le coupon, faut-il laisser passer, est-ce que cela ressemble à une fraude : découpez-les, puis demandez.
• Ne sautez pas les contrôles de comptabilité et de permission que le code devait avoir, seulement parce que 0.99 est revenu. Une probabilité n'est pas une autorisation.

Les questions qui conviennent sont presque trop courtes pour ressembler à une demande : dans ce state, sur quel échelon se trouve l'intention primaire ; sur quel échelon tombe le degré négatif ; si cette phrase sort des bornes. Un jugement qu'une personne exercée pourrait faire en moins d'une seconde est sa question. Une question qui demande une longue analyse n'a pas sa place ici entière.

La pensée n'a pas été ramassée en un seul dieu

Construire un modèle qui possède toutes les couches est le fantasme courant de cette période. L'ingénierie et la pratique se tiennent plus près d'une autre phrase : le cerveau appartient au cerveau, et l'articulation appartient à l'articulation.

Le cerveau comprend l'intention, parle à une personne et fait le plan global. L'articulation fait des jugements fermés, fait le routage en haute concurrence et remet l'inclinaison au code. Les règles et l'exécution en dessous restent aussi définies que l'os.

La fin de la technique n'est pas d'utiliser le silicium pour aplatir ces couches. Une fois le rapide et le lent séparés, on voit quelle parole l'intuition peut prendre, et quelle parole rend le système cher au moment où on la demande. Laissez ce qui ne lui appartient pas sur la couche lente, ou auprès d'une personne.

Série

• Précédent : JEV - Passée la ligne, plus intelligent n'est plus le produit
• Suivant : JEV - De l'écran à une probabilité nue