Một lab làm được chuyện này. Vì sao vẫn có thể không làm.

Ngày 15 tháng 9 năm 2026 TypeSafe phát hành Jev, lúc đó vẫn là early access. Bài này đặt giá chính thức và lời về huấn luyện cạnh bảng giá của hãng đang chiếm chỗ, và giải thích vì sao mô hình phán đoán có đầu ra miễn phí va vào việc bán đầu ra dài theo token.

Folkbench folkbench.com

Đồng tác giả: folkbench.com (Folkbench là nền tảng đánh giá và lựa chọn có thể kiểm chứng cho API AI, dịch vụ mô hình và các trang liên quan. Nền tảng dựa trên thông tin dịch vụ đã công bố, giá, độ sẵn sàng, độ trễ và cửa sổ bằng chứng để giúp người dùng so sánh và chọn một đường đi.)

Nhóm này gồm mười bài:

Ngày 15 tháng 9 năm 2026, TypeSafe phát hành Jev, và lúc đó nó vẫn ở early access. Đây là mô hình System One đầu tiên của họ. Nó chỉ đưa ra phán đoán. Nó không dựa vào chuyện trò. Người sáng lập, Diogo Almeida, từng làm theo chỉ dẫn ở OpenAI, trên nghiên cứu thành ra ChatGPT.

Bản thân Jev không có hào kỹ thuật. Bất kỳ lab mô hình nào, với một đội nhỏ, cũng làm được phiên bản của mình trong nửa tháng. Về kỹ thuật, không gì chặn.

Phần việc chính thức quả thực làm ra cái mới. Họ dựng một kiến trúc mới. Bộ lấy mẫu là song song: một truy vấn làm xong phán đoán, không sinh token này sau token kia. Họ dựng một cách huấn luyện riêng, gọi là RLCD, học tăng cường trên các quyết định đã hiệu chuẩn. Độ tin cậy mô hình báo phải đúng với phần các quyết định sau đó là đúng. Đó là cách triển khai của họ. Thứ người khác sẽ bắt chước là hình sản phẩm: không sinh chuỗi, và chỉ nhả xác suất đã hiệu chuẩn trên các câu hỏi đóng. Câu hỏi chốt từ trước, mô hình trả một phán đoán kèm xác suất, và mã rẽ nhánh trên số đó. Nửa tháng bắt chước hình đó. Nó không chép nghiên cứu của TypeSafe đúng như đang có. Người bắt chước không phải tháo nghiên cứu đó ra trước.

Một cái hào thì khó mà nhận. Hình đã chốt, phần triển khai đổi cả khối được. Sau khi đổi, hệ thống nó cắm vào vẫn nhận cùng một thứ: state ở trước, một phán đoán ở sau.

Sản phẩm của một mô hình chat là một chuỗi. Một chuỗi viết rất dài được, và phần mềm thực sự cần chuỗi đó phải tách thêm một lần. Jev không sản xuất chuỗi. Không có đoạn chữ có thể kéo dài đó, đầu ra không có hóa đơn tăng theo độ dài.

Bảng giá của các hãng đang chiếm chỗ

Nhìn giá là rõ. Đầu vào của Jev là $0.042 mỗi một triệu token, gần như miễn phí, và đầu ra miễn phí. Lời chính thức nói đầu ra rẻ đến mức không đáng đo. Họ cũng nhận là không chứng minh được giá này không bị trợ giá. Về dài, họ chờ giá đi xuống, không đi lên.

Bảng giá của các hãng đang chiếm chỗ là đầu kia. Đầu vào chạy từ $0.20 đến $10 mỗi một triệu token, và đầu ra đắt hơn khoảng 5 lần nữa. Tiền của một mô hình chat nằm ở đầu ra dài. Một câu trả lời để người đọc, và các bước một Agent tiếp tục thực thi, đều phải viết thành chữ. Chữ đã dài, tiền rơi về phía đầu ra. Dù đầu vào bị ép rất thấp, một lần viết dài vẫn là phần lớn của lần gọi.

Hai phía không gặp nhau. Các hãng đang chiếm chỗ bán token. Một mô hình mà đầu ra miễn phí, và đầu vào gần như miễn phí, ăn vào việc kinh doanh token.

Xung đột này là cấu trúc. Một mô hình phán đoán với đầu ra miễn phí được dùng càng rộng, càng ít người mua những token từng có nghĩa là “để một mô hình lớn phân loại, định tuyến, và chấm điểm”. Một phiếu chi được đối với biên lai, và ai đó phải phán mô tả có đúng với chứng cứ không. Một cảnh báo bảo mật kêu, và ai đó phải phán máy này có bị cô lập ngay không. Những khớp loại đó trước đây được giao cả cho một mô hình chat, mô hình viết một lý do, rồi kết luận bị móc ra khỏi chữ. Chữ móc ra được tính giá như đầu ra, ở bậc đắt hơn. Một câu hỏi đóng giao phán đoán thẳng. Cái trả về là một tập xác suất, độ dài chốt từ trước, và không có chữ để viết tiếp xuống. Lý do có thể không viết, và bậc phí đó không có chỗ rơi.

Cái hãng đang chiếm chỗ làm hại là báo cáo của chính nó. Mô hình được dùng càng rộng, cột cũ rơi càng nhanh. Đây là một việc kinh doanh đi vào từ phía dưới. Phán đoán rẻ đi cùng luồng và thay các quyết định nhỏ từng gọi một mô hình lớn. Cái bị thay không phải lần gọi phía trên viết một bài dài. Là quyết định nhỏ phải làm ở giữa luồng. Những lần gọi vẫn phải viết ra từ từ thì vẫn bán được. Kỳ vọng chính thức rằng giá của chính họ tiếp tục đi xuống không lấp cột mà hãng đang chiếm chỗ đã mất.

Tên Jev lấy từ William Stanley Jevons. Phép so sánh chính thức là than và máy hơi nước. Sau khi máy hơi nước nâng hiệu quả của việc đốt than, than không bị đốt ít hơn. Nó bị đốt nhiều hơn. Hiệu quả đi lên, và lượng dùng không co. Nó lớn lên. Phán đoán rẻ gọi lượng dùng thành hiện hữu. Hỏi mô hình một lần trước đây không rẻ, nên người ta chỉ giao cho nó vài bước đáng giá nhất, và viết phần còn lại thành quy tắc chết, hoặc tự nhìn. Một khi phán đoán rẻ đủ để hỏi đi hỏi lại trong mã, những câu không đáng hỏi sẽ đến cùng nhau. Cái đi lên là số lần.

Lượng dùng được gọi thành hiện hữu không phải loại token các hãng đang chiếm chỗ muốn bán nhất hôm nay. Độ dài viết ra trong một lần gọi giảm, và đầu ra không bị tính phí. Số lần chất cao đến đâu cũng không vào cái bảng họ dùng hôm nay, cái bảng kiếm tiền trên đầu ra dài.

Người định nghĩa loại mô hình này

Chỗ khó là người.

Chỉ người cùng lúc giữ một góc nhìn nghiệp vụ và một góc nhìn mô hình mới thấy khớp khắp một hệ thống. Thứ một khớp cần không phải thứ một bộ não cần. Một bộ não cần một đoạn chữ còn đi tiếp được. Một khớp không muốn chữ. Nó muốn một kết quả để rẽ nhánh. Nếu xác suất vững, chương trình đi tiếp. Nếu xác suất không chắc, nó được để lại cho người. Người chỉ xây mô hình dễ thấy chuyện này là một định dạng đầu ra. Người chỉ làm việc dễ cảm thấy gọi mô hình lớn thêm một lần là đủ. Hai cái nhìn phải ngồi trên một người thì người đó mới định nghĩa loại mô hình này. Những người như vậy ít. Mục đó không tự hiện trên lộ trình.

Dùng tốt loại mô hình này, một người gặp cùng một khó khăn. Bản năng chỉ trả lời được những câu mà bản năng trả lời được. Một việc có phải vậy không, và chọn mục nào trong vài mục đã chốt, bản năng trả lời được. Viết một đoạn nội dung trước đó không có, hoặc nghĩ hết các bước trên một câu chưa được đóng khung, bản năng không giữ được. Đó là việc của một loại mô hình khác. Bản năng thì nhanh, và rẻ. Khi chương trình cần hỏi, nó hỏi một lần, và thời gian cùng tiền chịu được. Hỏi bao nhiêu lần, các câu vẫn là những câu bản năng giữ được. Nên nó ở trong một chương trình cứ chạy.

Các lab lớn làm được. Người và sức tính đều có đó. Thu đầu ra từ một chuỗi thành một câu hỏi đóng là việc kỹ thuật đi qua được, và điều đó không giống việc tái tạo nghiên cứu của TypeSafe trong nửa tháng. Cái nửa tháng làm ra là một hình dùng được. Cách triển khai của TypeSafe vẫn nằm trong tay họ.

Cột đó vẫn đang nhận tiền vào. Một khi phán đoán được đổi thành câu hỏi đóng, và đầu ra được làm miễn phí, cột mất một đoạn. Phần mất thì thấy được trong một báo cáo quý. Chỗ xa hơn phía trước được để cho các dự án vẫn đang viết đầu ra cho dài. Ngữ cảnh tiếp tục lớn, các Agent chạy thêm vài vòng, và cái ra thêm đúng là token mà bảng giá này nhận ra.

Họ làm được. Nó sẽ không được xếp ở phía trước.

Nguồn

Nhóm bài