Bảo mật API Key AI và kiểm soát chi phí

AI API Key nên xác định một workload có thể kiểm soát, không đại diện toàn bộ tổ chức mãi mãi. Tách khóa giúp quản lý độc lập quyền, quota, định tuyến, luân chuyển và chi phí mà không dùng chung một Secret cho các ứng dụng không liên quan.

Một khóa cho mỗi workload

Tách production API, background worker, development, CI, coding agent, ứng dụng khách hàng, cộng tác viên tạm thời và batch tốn kém. Tên như prod-support-agent mô tả môi trường và mục đích mà không lộ Secret.

Giữ toàn bộ khóa trong Secret Manager phía server. Không đặt trong JavaScript trình duyệt, gói mobile, repository, image, ảnh chụp, ticket, analytics, log, URL hoặc ví dụ thật. Trình duyệt nên gọi backend riêng, nơi xác thực người dùng và giữ khóa. Nếu có thể bị lộ, tạo khóa thay thế, chuyển traffic rồi thu hồi khóa cũ.

Kết hợp quota, hết hạn và mô hình

Quota hữu hạn giới hạn usage quy cho khóa; ngày hết hạn giới hạn tuổi thọ; revoke dừng quyền truy cập mới ngay lập tức. Khóa development, đánh giá và tạm thời thường cần cả quota và ngày. Production có thể cần mức lớn hơn nhưng vẫn nên có phân bổ riêng và kế hoạch luân chuyển.

Giới hạn mô hình tránh vô tình dùng lựa chọn không tương thích hoặc đắt tiền và tạo ranh giới 403 rõ. Thấy mô hình không đảm bảo endpoint hỗ trợ định dạng; kiểm tra Mô hình & Giá.

Chỉ dùng IP với egress ổn định

Allowlist so sánh địa chỉ Modelflare quan sát với IP hoặc CIDR. Thay đổi NAT, proxy, IPv4/IPv6 hoặc mạng có thể chặn traffic. Xác minh egress thật và giữ đường luân chuyển khẩn cấp. IP không thay thế bảo vệ Secret.

Chọn định tuyến có chủ đích

Loại	Hành vi	Phù hợp
API Key thường	Nhóm chính và dự phòng có thứ tự	Workload cần thứ tự và policy cố định
Smart API Key	Đánh giá nhóm theo cân bằng, ổn định hoặc giá thấp	Cần lựa chọn tự động rộng hơn

Định tuyến chọn nhóm phù hợp cho mô hình được yêu cầu, không đảm bảo mọi tính năng. Thử tương thích, độ trễ và giá theo định tuyến ổn định.

Luân chuyển an toàn

1. Tạo khóa mới với giới hạn dự kiến.
2. Cài vào hệ thống Secret và deploy khi vẫn giữ khóa cũ.
3. Xác minh quyền, một request thật và bản ghi mới.
4. Xóa khóa cũ khỏi mọi deployment.
5. Thu hồi và theo dõi truy cập còn sót.

Khi tách khóa, có thể so sánh mô hình, nhóm, input, output, status, retry và chi phí. Quota dừng usage tiếp theo; bản ghi giải thích phần đã dùng. Xem Theo dõi chi phí AI API.