JEV - Intuição e razão: perguntas que não lhe pertencem

Coautor: folkbench.com (Folkbench é uma plataforma de avaliação e seleção que se pode rever, para APIs de IA, serviços de modelos e sites relacionados. Apoia-se em informação publicada sobre o serviço, preços, disponibilidade, latência e janelas de evidência para ajudar os utilizadores a comparar e a escolher um caminho.)

Dez textos nesta série:

• JEV - Uma articulação não precisa de um cérebro
• JEV - O lubrificante nos nós de controlo
• JEV - De BERT de volta a uma distribuição
• JEV - Desenhar a pergunta fechada, não o feitiço
• JEV - O livro anti-token não o lança primeiro
• JEV - Duas demos que só devolvem uma distribuição
• JEV - Sair do ciclo: a confiança entra no código
• JEV - Depois da linha, mais inteligente já não é o produto
• JEV - Intuição e razão: perguntas que não lhe pertencem
• JEV - Do ecrã a uma probabilidade nua

Algumas perguntas não lhe pertencem. Não por educação. Por se perguntar na camada errada. Kahneman dividiu a cognição numa camada rápida e numa lenta. A articulação só deve carregar a camada rápida, e só os juízos que já estão fechados. Entregar a Jev o pensamento lento, uma razão que tem de ser dita a uma pessoa, ou uma pergunta aberta que ainda não foi partida, é pedir uma redação a um modelo que não tem boca.

A camada rápida e a camada lenta

System 1 é rápido e barato, e apoia-se no padrão. System 2 é lento e caro, e carrega a dedução e uma escolha cuidadosa.

Os ramos deterministas nos programas já eram uma projeção rígida do pensamento lento: cada if está escrito. Depois de chegarem os modelos grandes, o silício teve pela primeira vez um juízo rápido forte: associação, tom, um sentido do contexto, algo como intuição. O juízo rápido puro também é frágil. Falha perante uma sequência apertada de passos, e sem reflexão arredonda um erro até soar certo.

Por isso a arquitetura de hoje volta a convidar a camada lenta: cadeia de pensamento, uma verificação sobre si mesma, ferramentas, um plano longo. A camada rápida trata da associação e da intenção. A camada lenta trata da verificação e da dedução em vários passos. É um cérebro que gasta a atenção cara só em exceções e em problemas novos. Se cada gesto de pegar numa chávena se desdobrasse numa deliberação completa, o metabolismo esgotar-se-ia primeiro.

O que não pertence à articulação é a fala que tem de ser desdobrada.

Acorde a camada lenta quando a intuição não chega

As implantações iniciais empurraram um cálculo enorme por cada detalhe, e o que obtiveram foi um uso alto de token e uma latência alta. A perícia está em saber quando confiar numa intuição fechada, e quando subir a pergunta.

• Encaminhamento ordinário, grau, dentro do limite ou não: uma pergunta fechada.
• Uma dedução matemática, código que tem de ser gerado, um plano de vários passos, uma razão que tem de ser explicada a uma pessoa: acorde um modelo que saiba falar, e deixe-o ir devagar.

O interruptor não é gosto. Pergunte na camada errada, e ou a articulação é forçada a escrever uma frase que não consegue escrever, ou um cérebro é desperdiçado num reflexo patelar.

O que não se pergunta à articulação

Em concreto, estas:

• Não pergunte «o que devemos fazer a seguir» se ainda não acabou de listar os caminhos. Uma célula que não está no Choice não é preenchida.
• Não lhe peça que escreva a resposta, o comentário ou a razão que uma pessoa tem de ler. Essa boca pertence à camada de inteligência.
• Não lhe peça que seja uma calculadora, uma expressão regular ou uma transação. Uma regra cujos limites estão escritos não deve subir a reflexo.
• Não substitua três perguntas ortogonais por uma pergunta combinada. Se se emite o cupão, se se deixa passar, se parece fraude: parta-as e só depois pergunte.
• Não salte as verificações de contabilidade e de permissões que o código devia ter, só porque voltou 0.99. Uma probabilidade não é uma autorização.

As perguntas que servem são quase curtas de mais para parecerem um pedido: neste state, em que degrau está a intenção primária; em que degrau cai o grau negativo; se esta frase sai do limite. Um juízo que uma pessoa treinada conseguiria fazer dentro de um segundo é a pergunta dela. Uma pergunta que exige uma análise longa não cabe aqui inteira.

O pensamento não foi recolhido num só deus

Construir um modelo que possua todas as camadas é a fantasia comum deste trecho. A engenharia e a prática sentam-se mais perto de outra frase: o cérebro pertence ao cérebro, e a articulação pertence à articulação.

O cérebro entende a intenção, fala a uma pessoa e faz o plano global. A articulação faz juízos fechados, encaminha com alta concorrência e entrega a inclinação ao código. As regras e a execução por baixo continuam tão definidas como o osso.

O fim da técnica não é usar o silício para achatar estas camadas. Depois de o rápido e o lento se separarem, vê-se que fala a intuição consegue receber, e que fala torna o sistema caro no momento em que é perguntada. Deixe o que não lhe pertence na camada lenta, ou com uma pessoa.

Série

• Anterior: JEV - Depois da linha, mais inteligente já não é o produto
• Seguinte: JEV - Do ecrã a uma probabilidade nua