JEV - Intuición y razón: preguntas que no le pertenecen
La articulación solo carga juicios rápidos que ya están cerrados. El pensamiento lento, la razón que hay que decirle a una persona y la pregunta abierta sin partir no son para Jev. Que vuelva 0.99 no autoriza nada: la comprobación contable sigue en el código.
Coautor: folkbench.com (Folkbench es una plataforma revisable de evaluación y selección de API de IA, servicios de modelos y sitios relacionados. Se apoya en información de servicio publicada, precios, disponibilidad, latencia y ventanas de evidencia para ayudar a los usuarios a comparar y a elegir un camino.)
Diez textos en esta serie:
- JEV - Una articulación no necesita cerebro
- JEV - El lubricante en los nodos de control
- JEV - De BERT a una sola distribución
- JEV - Diseñar la pregunta cerrada, no el hechizo
- JEV - El libro anti-token no lo lanza primero
- JEV - Dos demos que solo devuelven una distribución
- JEV - Salir del bucle: la confianza entra en el código
- JEV - Pasada la línea, ser más listo ya no es el producto
- JEV - Intuición y razón: preguntas que no le pertenecen
- JEV - Del uso de la pantalla a una probabilidad sola
Algunas preguntas no le pertenecen. No por cortesía. Por preguntar en la capa equivocada. Kahneman partió la cognición en una capa rápida y una lenta. La articulación solo debe cargar la capa rápida, y solo los juicios que ya están cerrados. Entregarle a Jev el pensamiento lento, una razón que hay que decirle a una persona, o una pregunta abierta que aún no se ha partido, es pedirle una redacción a un modelo que no tiene boca.
La capa rápida y la capa lenta
System 1 es rápido y barato, y se apoya en el patrón. System 2 es lento y caro, y carga la deducción y una elección cuidadosa.
Las ramas deterministas de los programas ya eran una proyección rígida del pensamiento lento: cada if está escrito. Después de que llegaron los modelos grandes, el silicio tuvo por primera vez un juicio rápido fuerte: asociación, tono, un sentido del contexto, algo parecido a la intuición. El juicio rápido puro también es frágil. Falla ante una secuencia apretada de pasos, y sin reflexión redondea un error hasta que suena bien.
Por eso la arquitectura de hoy vuelve a invitar a la capa lenta: cadena de pensamiento, una comprobación sobre sí misma, herramientas, un plan largo. La capa rápida se ocupa de la asociación y de la intención. La capa lenta se ocupa de la verificación y de la deducción en varios pasos. Es un cerebro que gasta su atención cara solo en las excepciones y en los problemas nuevos. Si cada gesto de alcanzar una taza se desplegara en una deliberación completa, el metabolismo fallaría primero.
Lo que no le pertenece a la articulación es el habla que hay que desplegar.
Despierte la capa lenta cuando la intuición no basta
Los despliegues tempranos empujaron un cómputo enorme a través de cada detalle, y lo que obtuvieron fue un uso alto de token y una latencia alta. La destreza está en saber cuándo confiar en una intuición cerrada, y cuándo subir la pregunta.
- Enrutado ordinario, grado, dentro del límite o no: una pregunta cerrada.
- Una deducción matemática, código que hay que generar, un plan de varios pasos, una razón que hay que explicarle a una persona: despierte un modelo que pueda hablar, y déjelo ir despacio.
El interruptor no es el gusto. Pregunte en la capa equivocada, y o bien la articulación se ve forzada a escribir una frase que no puede escribir, o bien un cerebro se desperdicia en un reflejo rotuliano.
Qué no preguntarle a la articulación
En concreto, estas:
- No pregunte «qué debemos hacer después» si no ha terminado de enumerar los caminos. Una celda que no está en el Choice no se rellena.
- No le pida que escriba la respuesta, la reseña o la razón que una persona tiene que leer. Esa boca pertenece a la capa de inteligencia.
- No le pida que sea una calculadora, una expresión regular o una transacción. Una regla cuyos bordes ya están escritos no debe subir hasta el reflejo.
- No sustituya tres preguntas ortogonales por una pregunta combinada. Si se emite el cupón, si se deja pasar, si parece fraude: pártelas y luego pregunte.
- No se salte las comprobaciones de contabilidad y de permisos que el código debía tener, solo porque volvió 0.99. Una probabilidad no es una autorización.
Las preguntas que encajan son casi demasiado cortas para parecer una petición: en este state, en qué peldaño está la intención primaria; en qué peldaño cae el grado negativo; si esta frase se sale del límite. Un juicio que una persona práctica podría hacer en menos de un segundo es su pregunta. Una pregunta que exige un análisis largo no cabe aquí entera.
El pensamiento no se recogió en un solo dios
Construir un modelo que posea todas las capas es la fantasía común de este tramo. La ingeniería y la práctica se sientan más cerca de otra frase: el cerebro pertenece al cerebro, y la articulación pertenece a la articulación.
El cerebro entiende la intención, le habla a una persona y hace el plan global. La articulación hace juicios cerrados, encamina con alta concurrencia y entrega la inclinación al código. Las reglas y la ejecución de debajo siguen tan definidas como el hueso.
El fin de la técnica no es usar el silicio para aplanar estas capas. Después de separar lo rápido y lo lento, se ve qué habla puede tomar la intuición, y qué habla encarece el sistema en el momento en que se pregunta. Deje lo que no le pertenece en la capa lenta, o con una persona.