JEV - Интуиция и разум: вопросы, которые ему не задают

Сустав берёт только быстрые суждения, которые уже закрыты. Медленное мышление, причина, которую надо сказать человеку, и неразобранный открытый вопрос не для Jev. 0.99 не даёт разрешения: проверка учёта остаётся в коде.

JEV - Интуиция и разум: вопросы, которые ему не задают

Соавтор: folkbench.com (Folkbench — проверяемая платформа оценки и выбора для API ИИ, модельных сервисов и связанных сайтов. Она опирается на опубликованные сведения о сервисе, цены, доступность, задержку и окна доказательств, чтобы помочь пользователям сравнить варианты и выбрать путь.)

Десять текстов в этой серии:

Некоторые вопросы ему не принадлежат. Не из вежливости. Из-за вопроса не на том слое. Kahneman разделил познание на быстрый слой и медленный. Сустав должен нести только быстрый слой, и только те суждения, которые уже закрыты. Отдать Jev медленное мышление, причину, которую надо произнести человеку, или открытый вопрос, который ещё не разобрали, значит просить модель без рта написать сочинение.

Быстрый слой и медленный слой

System 1 быстр и дёшев, и он опирается на шаблон. System 2 медленен и дорог, и он несёт вывод и осторожный выбор.

Детерминированные ветви в программах уже были жёсткой проекцией медленного мышления: каждый if выписан. После прихода больших моделей у кремния впервые появилось сильное быстрое суждение: ассоциация, тон, чутьё к контексту, нечто вроде интуиции. Чистое быстрое суждение тоже хрупко. Оно срывается перед тесной последовательностью шагов и без рефлексии заговаривает ошибку до гладкости.

Поэтому сегодняшняя архитектура снова зовёт медленный слой: цепочка рассуждений, проверка себя, инструменты, длинный план. Быстрый слой берёт ассоциацию и намерение. Медленный слой берёт проверку и многошаговый вывод. Это мозг, который тратит дорогое внимание только на исключения и на новые задачи. Если бы каждый жест к чашке разворачивался в полное обдумывание, обмен веществ истощился бы первым.

Суставу не принадлежит речь, которую приходится разворачивать.

Будить медленный слой, когда интуиции мало

Ранние внедрения прогоняли огромные вычисления через каждую мелочь и получали высокий расход token и высокую задержку. Умение в том, чтобы знать, когда доверять закрытой интуиции, а когда поднимать вопрос наверх.

  • Обычная маршрутизация, степень, в пределах или нет: закрытый вопрос.
  • Математический вывод, код, который надо сгенерировать, многошаговый план, причина, которую надо объяснить человеку: разбудите модель, которая умеет говорить, и дайте ей идти медленно.

Этот переключатель не вопрос вкуса. Спросите не на том слое, и либо сустав вынужден писать предложение, которое не может написать, либо мозг тратится на коленный рефлекс.

Чего не спрашивать у сустава

Конкретно вот это:

  • Не спрашивайте «что нам делать дальше», если вы ещё не дописали перечень путей. Клетку, которой нет в Choice, он не заполняет.
  • Не просите его писать ответ, отзыв или причину, которую человеку надо прочитать. Этот рот принадлежит слою интеллекта.
  • Не просите его быть калькулятором, регулярным выражением или транзакцией. Правило, чьи края выписаны, не должно подниматься до рефлекса.
  • Не заменяйте три ортогональных вопроса одним составным. Выдавать ли купон, пропускать ли, похоже ли на мошенничество: разделите, потом спрашивайте.
  • Не пропускайте проверки учёта и прав, которые должны были быть в коде, только потому что вернулось 0.99. Вероятность не авторизация.

Вопросы, которые подходят, почти слишком коротки, чтобы походить на просьбу: в этом state, на какой ступени главное намерение; на какую ступень ложится отрицательная степень; выходит ли эта фраза за предел. Суждение, которое опытный человек мог бы сделать меньше чем за секунду, и есть его вопрос. Вопрос, который требует долгого разбора, сюда целиком не принадлежит.

Мысль не собрали в одного бога

Строить одну модель, которой принадлежат все слои, обычная фантазия этого отрезка. Инженерия и практика ближе к другой фразе: мозг принадлежит мозгу, а сустав суставу.

Мозг понимает намерение, говорит с человеком и строит общий план. Сустав делает закрытые суждения, маршрутизирует при высокой параллельности и отдаёт наклон коду. Правила и исполнение под ними остаются определёнными, как кость.

Конец техники не в том, чтобы кремнием сровнять эти слои. После того как быстрое и медленное разделены, видно, какую речь может взять интуиция и какая речь делает систему дорогой в тот момент, когда её спрашивают. Оставьте то, что ему не принадлежит, на медленном слое или у человека.

Серия