JEV - Thiết kế câu hỏi đóng, không phải câu thần chú

Có-không, chọn một và mức đủ một ngôn ngữ khi nghiệp vụ được tách thành câu hỏi đóng không chen nhau, và trạng thái được nén qua khỏi câu chuyện. Có phát phiếu hay không nằm ở ngưỡng trong mã.

JEV - Thiết kế câu hỏi đóng, không phải câu thần chú

Đồng tác giả: folkbench.com (Folkbench là nền tảng đánh giá và lựa chọn có thể kiểm chứng cho API AI, dịch vụ mô hình và các trang liên quan. Nền tảng dựa trên thông tin dịch vụ đã công bố, giá, độ sẵn sàng, độ trễ và cửa sổ bằng chứng để giúp người dùng so sánh và chọn một đường đi.)

Nhóm này gồm mười bài:

Nửa đầu của việc viết chỉ dẫn là một thi pháp. Để lấy được JSON ổn định, người ta viết một vai, một lời dọa, vài ví dụ, và một ít XML. Đó là một vòng vây trong tổ hợp vô hạn của các token. Jev hủy vòng vây. Không gian nghiệm đóng lại trước lúc suy diễn. Thứ bạn thiết kế không phải một câu thần chú hay hơn. Đó là một trạng thái, cộng vài câu hỏi đóng không chen nhau. Có-không, chọn một và mức đủ một ngôn ngữ chỉ khi bạn chịu tách nghiệp vụ vào ba hình đó.

Từ vòng vây đến bản câu hỏi

[ generative ]
prompt (role, examples, format restraints) → infinite tokens → text that can drift

[ Jev ]
state + closed questions (Noul / Choice / Score) → a finite set → one distribution

Ba câu hỏi chốt những gì được phép hỏi:

  1. Có-không, Noul. Thứ bạn muốn là xác suất của “có”, dùng để thử một ngưỡng. Mã quyết định ngưỡng có bị vượt hay không. Đó không phải một giá trị rỗng.
  2. Chọn một, Choice. Các lựa chọn được khóa từ trước, nhiều nhất 255. Mỗi lựa chọn nói nó nghĩa là gì. Dùng cho ý định và định tuyến.
  3. Mức, Score. Từ 2 đến 10 nấc, viết từ thấp lên cao thành những tình huống cụ thể. Dùng cho mức độ. Đừng dùng để bịa một lớp mới.

Những chỉ dẫn mà việc duy nhất là định dạng, vì thế, hết hạn. Nghề còn lại là nén trạng thái thế nào, và tách một câu hỏi lớn thế nào.

Trạng thái phải thắng câu chuyện

Trạng thái không nghe một câu chuyện. Quy tắc là bỏ trang trí, giữ thứ tự sự việc, và giữ sự kiện.

Một cách sinh để hỏi người dùng có rời đi hay không thường trông như thế này:

Bạn là nhân viên hỗ trợ thâm niên. Đọc hồ sơ và hội thoại, quyết định anh ta có muốn hủy hay không, giải thích, và xuất JSON. Hồ sơ: Zhang San, VIP3, đăng ký được 2 năm. Người dùng nói tính năng lại sập và dữ liệu mất. Hỗ trợ nói đang sửa. Người dùng nói thôi, và hỏi cách lấy tiền hoàn.

Vấn đề là câu vai và từ đệm. Mô hình tiêu sự chú ý vào “bạn là chuyên gia”, và đầu ra bị “thôi” kéo đi.

Thứ Jev ăn là trạng thái đã nén:

{
  "user_profile": {"tier": "VIP3", "tenure_months": 24},
  "last_event": {"type": "system_error", "impact": "data_loss"},
  "dialogue_history": [
    {"role": "user", "intent": "complain", "content": "feature crashed, data lost"},
    {"role": "agent", "intent": "apology", "content": "fix in progress"},
    {"role": "user", "intent": "churn_explicit", "content": "asks for a refund and says they will stop"}
  ]
}

Một dòng của hội thoại gốc có thể ở lại, nhưng ý định và tác động ngồi trong trường riêng. Mô hình đọc một cây trạng thái, không phải một bài văn.

Tách một câu hỏi nghiệp vụ thành ba

“Có nên phát một phiếu giảm giá 50 yuan” không phải một câu hỏi đóng. Ý định, nóng giận, gian lận và chi phí xếp chồng bên trong. Một phát là hỏng trong Jev. Tách thành ba câu hỏi trực giao, và để chính sách phiếu trong mã.

state ─┬─ Choice   primary intent
       ├─ Score    negative degree, rungs 1 to 5
       └─ Noul     does this look like farming coupons

Ý định

Choice. Không gian là: câu hỏi kỹ thuật, góp ý sản phẩm, khiếu nại sự cố, đòi bồi thường ác ý. Thân câu hỏi chỉ hỏi ý định chính của lượt này. Nó không hỏi có nên trả hay không.

[State]
{ ...compressed state... }

[Question]
From the dialogue, which class is the primary intent of this turn.

Mức độ

Score. Nấc 1 là một thắc mắc hoặc một phàn nàn nhẹ. Nấc 3 là một phàn nàn rõ, đòi giải thích. Nấc 5 là cảm xúc cực đoan, hoặc việc hoàn tiền hay đóng tài khoản đã ở trên bàn. Đừng đưa cho nó một “1 đến 5” trần. Viết mỗi nấc thành một tình huống.

[State]
{ ...compressed state... }

[Question]
Score the negative degree on these rungs.
1: a question, or a mild complaint
3: a clear complaint that demands an explanation
5: extreme emotion, or a refund or closure already requested

Có hoặc không

Noul. Đặt số lần đòi bồi thường trong 30 ngày gần đây vào trạng thái, và hỏi lượt này có khớp với việc vét phiếu giảm giá hay không. Cái trở về là một xác suất. Ngưỡng được viết trong mã.

[State]
{ ...state, plus claim count for 30 days... }

[Question]
Historical claims are greater than 3, and the impact of this incident is low. Does this turn match coupon farming.

Mã chỉ nhận phân phối

Phía sau không còn phân tích một chuỗi JSON có thể vỡ. Mỗi kết quả trong ba kết quả là một số hoặc một bảng. Điều kiện nghiệp vụ ở lại trong hàm.

intent = jev.choice(
    state=user_state,
    options=["tech_support", "feedback", "complaint", "malicious"],
)
anger = jev.score(state=user_state, rungs=5)
fraud = jev.noul(state=user_state_with_history)

def handle_coupon(intent, anger, fraud):
    if fraud.p_yes >= 0.9:
        return "DENY_AND_HANDOFF"
    if intent.top == "complaint" and anger.expected >= 4:
        return "ISSUE_50_COUPON"
    return "STANDARD_APOLOGY"

Khi mô hình được thay, hình dạng đầu ra vẫn là ba thứ này. Sụp định dạng không còn là một loại hỏng. Tính tất định không trở thành “mô hình không bao giờ sai”. Tính tất định nghĩa là một lỗi vẫn rơi vào ô bạn đã viết, và nhánh vẫn có thể thử.

Tu từ rút lui

Chiều Chỉ dẫn sinh Jev
Nghề Văn phong, ví dụ, câu thần chú định dạng Tách nghiệp vụ, nén trạng thái, vẽ một không gian rời rạc
Không gian nghiệm Mở Đóng: Noul / Choice / Score
Ổn định Cách nói và nhiệt độ Cấu trúc; đầu ra vốn là một phân phối
Gỡ lỗi Sửa tính từ, thêm giọng, thêm ví dụ Sửa các trường của trạng thái, tách câu hỏi cho đến khi trực giao

Có-không, chọn một và mức đủ một ngôn ngữ đúng khi “tiếp theo ta nên làm gì” có thể tách vào ba thứ ấy. Đoạn không tách được không phải thất bại của ngôn ngữ này. Nó không thuộc về khớp. Hãy để nó cho một mô hình biết nói, hoặc cho một người.

Nhóm bài