JEV - 주문 대신 닫힌 질문을 설계한다

공동 작성자: folkbench.com (Folkbench는 AI API, 모델 서비스, 관련 사이트를 위한 검증 가능한 평가·선택 플랫폼입니다. 공개된 서비스 정보, 가격, 가용성, 지연, 증거 구간을 바탕으로 사용자가 경로를 비교하고 고를 수 있게 합니다.)

이 시리즈는 열 편입니다:

• JEV - 관절에는 뇌가 필요 없습니다
• JEV - 제어 노드의 윤활제
• JEV - BERT에서 하나의 분포로
• JEV - 주문 대신 닫힌 질문을 설계한다
• JEV - 반토큰 장부는 이것을 먼저 내지 않는다
• JEV - 분포만 돌려주는 두 demo
• JEV - 루프에서 나가기: 확신도를 코드에 쓴다
• JEV - 선을 넘으면 더 똑똑함은 상품이 아니다
• JEV - 직관과 이성: 관절에 묻지 말 말
• JEV - 화면 조작에서 확률만으로

지시 작업의 앞부분은 시학이었습니다. 안정된 JSON을 얻으려고 사람들은 역할, 위협, 예시 몇 개, 그리고 XML을 썼습니다. 그것은 무한한 token 조합 안의 봉쇄였습니다. Jev는 그 봉쇄를 취소합니다. 해 공간은 추론 전에 닫힙니다. 설계하는 것은 더 나은 주문이 아닙니다. 상태와, 서로 방해하지 않는 닫힌 질문 몇 개입니다. 예/아니오, 선택, 등급이 하나의 언어로 충분한 것은, 업무를 이 세 모양으로 나눌 뜻이 있을 때뿐입니다.

봉쇄에서 질문지로

[ generative ]
prompt (role, examples, format restraints) → infinite tokens → text that can drift

[ Jev ]
state + closed questions (Noul / Choice / Score) → a finite set → one distribution

세 질문은 물어 봐도 되는 것을 끝냅니다.

1. 예/아니오, Noul. 원하는 것은 “예”의 확률이며, 임계값을 시험하는 데 씁니다. 임계값을 넘었는지는 코드가 정합니다. 빈 값이 아닙니다.
2. 단일 선택, Choice. 선택지는 미리 고정하고, 많아야 255입니다. 각 선택지 뒤에는 무엇을 가리키는지 씁니다. 의도와 경로 배정에 씁니다.
3. 등급, Score. 2에서 10까지의 단을, 낮은 쪽에서 높은 쪽으로 구체적인 경우로 씁니다. 정도에 씁니다. 새 부류를 지어 내는 데는 쓰지 않습니다.

형식만이 일이던 지시는 이것으로 효력을 잃습니다. 남는 솜씨는 상태를 어떻게 압축하느냐, 그리고 큰 질문을 어떻게 나누느냐입니다.

상태가 이야기를 이겨야 한다

상태는 이야기를 듣지 않습니다. 원칙은 장식을 빼고, 사건의 순서를 남기고, 사실을 남기는 것입니다.

이용자가 떠날지를 묻는 생성식 글은 흔히 이렇게 보입니다.

당신은 선임 지원 담당입니다. 프로필과 대화를 읽고, 해지하려는지 판단하고, 이유를 설명하고, JSON을 내보내십시오. 프로필: Zhang San, VIP3, 등록한 지 2년. 이용자는 기능이 또 죽고 데이터가 없어졌다고 말합니다. 지원은 고치는 중이라고 말합니다. 이용자는 됐다, 환불은 어떻게 받느냐고 묻습니다.

문제는 역할 문장과 군더더기입니다. 모델은 “당신은 전문가다”에 주의를 쓰고, 출력은 “됐다”에 끌려갑니다.

Jev가 먹는 것은 압축된 상태입니다.

{
  "user_profile": {"tier": "VIP3", "tenure_months": 24},
  "last_event": {"type": "system_error", "impact": "data_loss"},
  "dialogue_history": [
    {"role": "user", "intent": "complain", "content": "feature crashed, data lost"},
    {"role": "agent", "intent": "apology", "content": "fix in progress"},
    {"role": "user", "intent": "churn_explicit", "content": "asks for a refund and says they will stop"}
  ]
}

원래 대화는 한 줄 남겨도 되지만, 의도와 영향은 제 칸에 둡니다. 모델이 읽는 것은 상태의 나무이지, 작문이 아닙니다.

업무 질문 하나를 셋으로 나누기

“50위안의 쿠폰을 줘야 하는가”는 닫힌 질문 하나가 아닙니다. 안에 의도, 화, 사기, 비용이 겹쳐 있습니다. Jev에서는 한 방에 맞히면 실패합니다. 직교하는 질문 셋으로 나누고, 쿠폰 정책은 코드에 남기십시오.

state ─┬─ Choice   primary intent
       ├─ Score    negative degree, rungs 1 to 5
       └─ Noul     does this look like farming coupons

의도

Choice. 공간은 기술적 질문, 제품 제안, 장애 불만, 악의적 청구입니다. 문제 줄기가 묻는 것은 이번 주고받음의 주된 의도뿐입니다. 지급해야 하는지는 묻지 않습니다.

[State]
{ ...compressed state... }

[Question]
From the dialogue, which class is the primary intent of this turn.

정도

Score. 단 1은 의문이나 가벼운 불만입니다. 단 3은 분명한 불만이며 설명을 요구합니다. 단 5는 극단적 감정이거나, 환불 또는 계정 폐쇄가 이미 탁자 위에 있는 것입니다. 맨 “1에서 5”만 넘기지 마십시오. 각 단을 경우로 쓰십시오.

[State]
{ ...compressed state... }

[Question]
Score the negative degree on these rungs.
1: a question, or a mild complaint
3: a clear complaint that demands an explanation
5: extreme emotion, or a refund or closure already requested

예 또는 아니오

Noul. 최근 30일의 청구 횟수를 상태에 넣고, 이번 주고받음이 쿠폰을 훑어 가는 모습에 맞는지 묻습니다. 돌아오는 것은 확률입니다. 임계값은 코드에 씁니다.

[State]
{ ...state, plus claim count for 30 days... }

[Question]
Historical claims are greater than 3, and the impact of this incident is low. Does this turn match coupon farming.

코드가 받는 것은 분포뿐이다

하류는 깨질 수 있는 JSON 문자열을 더 이상 해석하지 않습니다. 세 결과는 각각 하나의 수이거나 하나의 표입니다. 업무 조건은 함수 안에 남습니다.

intent = jev.choice(
    state=user_state,
    options=["tech_support", "feedback", "complaint", "malicious"],
)
anger = jev.score(state=user_state, rungs=5)
fraud = jev.noul(state=user_state_with_history)

def handle_coupon(intent, anger, fraud):
    if fraud.p_yes >= 0.9:
        return "DENY_AND_HANDOFF"
    if intent.top == "complaint" and anger.expected >= 4:
        return "ISSUE_50_COUPON"
    return "STANDARD_APOLOGY"

모델을 바꾸어도 출력의 모양은 이 셋입니다. 형식 붕괴는 고장 종류가 아니게 됩니다. 결정성은 “모델은 결코 틀리지 않는다”가 되지 않습니다. 결정성이란, 틀려도 당신이 써 둔 칸에 떨어지고, 분기는 여전히 시험할 수 있다는 뜻입니다.

수사는 물러난다

차원	생성 지시	Jev
솜씨	문체, 예시, 형식의 주문	업무를 나누고, 상태를 압축하고, 이산 공간을 그린다
해 공간	열려 있음	닫혀 있음: Noul / Choice / Score
안정	말씨와 온도	구조. 출력은 본래 분포이다
디버그	형용사를 고치고, 어조를 더하고, 예를 더한다	상태의 칸을 고치고, 질문이 직교할 때까지 나눈다

예/아니오, 선택, 등급이 하나의 언어로 충분한 것은, “다음에 무엇을 해야 하는가”를 이 셋으로 나눌 수 있는 바로 그때입니다. 나누어지지 않는 한 토막은 이 언어의 실패가 아닙니다. 관절에 들어갈 것이 아닙니다. 말할 수 있는 모델에게, 또는 사람에게 남기십시오.

시리즈

• 이전: JEV - BERT에서 하나의 분포로
• 다음: JEV - 반토큰 장부는 이것을 먼저 내지 않는다