JEV - Trực giác và lý tính: câu không nên hỏi khớp
Khớp chỉ nhận phán đoán nhanh đã đóng. Suy nghĩ chậm, lý do phải nói cho người nghe, và câu hỏi mở chưa tách không dành cho Jev. 0.99 không phải sự cho phép: kiểm tra sổ sách vẫn nằm trong mã.
Đồng tác giả: folkbench.com (Folkbench là nền tảng đánh giá và lựa chọn có thể kiểm chứng cho API AI, dịch vụ mô hình và các trang liên quan. Nền tảng dựa trên thông tin dịch vụ đã công bố, giá, độ sẵn sàng, độ trễ và cửa sổ bằng chứng để giúp người dùng so sánh và chọn một đường đi.)
Nhóm này gồm mười bài:
- JEV - Khớp không cần não
- JEV - Chất bôi trơn trên nút điều khiển
- JEV - Từ BERT trở lại một phân phối
- JEV - Thiết kế câu hỏi đóng, không phải câu thần chú
- JEV - Sổ cái phản token không đưa nó ra trước
- JEV - Hai demo chỉ trả về một phân phối
- JEV - Thoát vòng lặp: độ tin cậy viết vào mã
- JEV - Qua vạch, thông minh hơn không còn là sản phẩm
- JEV - Trực giác và lý tính: câu không nên hỏi khớp
- JEV - Từ thao tác màn hình đến chỉ còn xác suất
Một số câu hỏi không thuộc về nó. Không phải vì phép lịch sự. Vì hỏi sai tầng. Kahneman chia nhận thức thành một tầng nhanh và một tầng chậm. Khớp chỉ nên gánh tầng nhanh, và chỉ những phán đoán đã đóng. Đưa suy nghĩ chậm, một lý do phải nói cho người nghe, hoặc một câu hỏi mở chưa được tách, cho Jev, là bảo một mô hình không có miệng viết một bài.
Tầng nhanh và tầng chậm
System 1 thì nhanh và rẻ, dựa vào khuôn mẫu. System 2 thì chậm và đắt, gánh suy diễn và lựa chọn thận trọng.
Các nhánh tất định trong phần mềm vốn đã là một phép chiếu cứng của suy nghĩ chậm: mọi if đều được viết ra. Sau khi các mô hình lớn đến, silic lần đầu có một phán đoán nhanh mạnh: liên tưởng, giọng, cảm giác về ngữ cảnh, gần như trực giác. Phán đoán nhanh thuần cũng giòn. Nó hỏng trước một chuỗi bước chặt, và nếu không phản tư thì nó nói tròn một lỗi cho đến khi nghe xuôi.
Vì vậy kiến trúc hôm nay mời tầng chậm trở lại: chuỗi suy nghĩ, một lần tự kiểm, công cụ, một kế hoạch dài. Tầng nhanh lo liên tưởng và ý định. Tầng chậm lo kiểm chứng và suy diễn nhiều bước. Đây là một bộ não chỉ tiêu sự chú ý đắt đỏ cho ngoại lệ và cho vấn đề mới. Nếu mỗi lần với lấy một chiếc cốc đều phải mở cả một vòng suy nghĩ kỹ, sự trao đổi chất sẽ cạn trước.
Cái không thuộc về khớp là những lời phải trải ra.
Đánh thức tầng chậm khi trực giác không đủ
Những lần triển khai đầu đẩy lượng tính toán rất lớn qua từng chi tiết, và cái nhận được là mức dùng token cao cùng độ trễ cao. Chỗ khéo là biết khi nào tin một trực giác đã đóng, và khi nào đẩy câu hỏi lên.
- Định tuyến thường, mức độ, trong giới hạn hay không: một câu hỏi đóng.
- Một suy diễn toán, mã phải sinh ra, một kế hoạch nhiều bước, một lý do phải giải thích cho người: hãy đánh thức một mô hình biết nói, và để nó đi chậm.
Công tắc này không phải khẩu vị. Hỏi sai tầng, thì hoặc khớp bị ép viết một câu nó không viết được, hoặc một bộ não bị phí vào một phản xạ gối.
Những điều không nên hỏi khớp
Cụ thể là những điều này:
- Đừng hỏi «tiếp theo chúng ta nên làm gì» nếu bạn chưa liệt kê hết các cách. Ô không có trong Choice thì không được điền.
- Đừng bảo nó viết thư trả lời, lời nhận xét, hay lý do mà một người phải đọc. Cái miệng đó thuộc về tầng trí tuệ.
- Đừng bảo nó làm máy tính, biểu thức chính quy, hay giao dịch. Một quy tắc đã viết hết các cạnh thì không nên lên thành phản xạ.
- Đừng thay ba câu hỏi trực giao bằng một câu hỏi gộp. Có phát phiếu hay không, có cho qua hay không, có giống gian lận hay không: tách ra rồi hãy hỏi.
- Đừng bỏ các kiểm tra sổ sách và quyền mà mã vốn phải có, chỉ vì 0.99 quay về. Xác suất không phải là sự cho phép.
Những câu hỏi vừa khớp thì ngắn đến mức gần như không giống một yêu cầu: trong state này, ý định chính nằm ở nấc nào; mức độ tiêu cực rơi vào nấc nào; câu này có vượt giới hạn hay không. Phán đoán mà một người thuần thục có thể làm trong một giây mới là câu hỏi của nó. Câu hỏi phải phân tích rất lâu thì không thuộc về đây nguyên cả.
Suy nghĩ không được gom thành một vị thần
Xây một mô hình ôm mọi tầng là ảo tưởng phổ biến của quãng này. Kỹ thuật và thực hành ngồi gần một câu khác hơn: não thuộc về não, khớp thuộc về khớp.
Não hiểu ý định, nói với một người, và lập kế hoạch toàn cục. Khớp làm phán đoán đóng, định tuyến ở mức đồng thời cao, và trao xu hướng cho mã. Các quy tắc và việc thi hành ở dưới vẫn xác định như xương.
Điểm cuối của kỹ thuật không phải là dùng silic để san phẳng các tầng này. Sau khi nhanh và chậm được tách, mới thấy lời nào trực giác nhận được, và lời nào vừa hỏi đã làm hệ thống đắt. Hãy để những gì không thuộc về nó ở tầng chậm, hoặc ở chỗ một người.