Tỷ lệ trúng cache bao nhiêu là bình thường? Đo thực tế các client lập trình AI

Trong tuần 2026-11-03, các client lập trình AI phổ biến đạt tỷ lệ trúng cache 95%–98% trong hội thoại tiếp diễn trên mô hình Claude, và Codex khoảng 95% trên GPT. Các client chênh lệch rất ít; nếu tỷ lệ của bạn thấp hơn nhiều, nguyên nhân thường là đổi tài khoản, nghỉ quá 5 phút hoặc hội thoại mới.

Tuần 2026-11-03 – 2026-11-09 (UTC)

Điểm chính

  • Mức bình thường trên mô hình Claude: 95%–98%, trung vị trong hội thoại tiếp diễn, 7 client
  • Codex trên GPT: 94.8%, trung vị của 71 người dùng
  • Nguyên nhân trượt phổ biến nhất: cache hết hạn, 37% số lượt trượt của Claude Code × Claude
  • Tổ hợp đã công bố: 20, client × mô hình, mỗi tổ hợp có từ 5 người dùng đạt điều kiện

Tỷ lệ trúng cache bao nhiêu là bình thường với từng client

Tỷ lệ trúng khi hội thoại tiếp diễn chỉ tính các yêu cầu trong cùng hội thoại, cùng mô hình và tài khoản upstream, được gửi trong vòng 5 phút sau khi yêu cầu trước kết thúc: đây là mức mà chính client đạt được. Tỷ lệ trên mọi yêu cầu còn tính cả định tuyến, hết hạn và hội thoại mới, gần với những gì hóa đơn của bạn thể hiện hơn.

Tỷ lệ trúng khi hội thoại tiếp diễn là giá trị của người dùng trung vị; khoảng giá trị bao phủ một nửa người dùng ở giữa.
Client × mô hìnhHội thoại tiếp diễnMọi yêu cầuNgười dùng
Z Code × Claude98.5% (97.7%–99.0%)94.3%13
Magpie × DeepSeek98.3% (95.6%–98.8%)91.4%7
DeepSeek Harness × DeepSeek98.2% (96.6%–98.9%)94.8%27
Magpie × Claude98.2% (97.0%–98.8%)93.6%25
OpenCode × DeepSeek98.2% (92.2%–98.5%)97.7%8
Claude Code × Claude98.1% (96.9%–98.8%)94.6%343
WorkBuddy × Claude97.8% (96.6%–98.3%)88.2%20
OpenCode × Claude97.6% (97.1%–98.9%)95.1%20
Claude Code × DeepSeek97.5% (95.6%–98.8%)96.5%12
DeepSeek Harness × Claude97.2% (93.6%–98.0%)92.0%38
Codex × DeepSeek96.9% (95.4%–98.3%)97.2%12
WorkBuddy × GPT96.4% (91.4%–97.4%)92.4%10
DeepSeek Harness × Kimi96.4% (95.3%–97.4%)93.9%6
Codex × GPT94.8% (91.2%–96.9%)91.8%71
Codex × Claude94.7% (87.0%–97.8%)93.5%21
OpenCode × GPT94.6% (90.8%–96.2%)90.8%11
Magpie × GPT94.3% (91.5%–95.5%)87.0%7
DeepSeek Harness × GPT93.9% (92.5%–96.3%)91.9%11
DeepSeek Harness × Other90.3% (88.4%–94.2%)80.8%5
Claude Code × GPT78.8% (78.6%–94.4%)77.4%5

Đang lấy mẫu

  • OpenCode × Other: Đang lấy mẫu: 4/5 người dùng đạt điều kiện (9 người dùng trong tuần này)
  • pi × Claude: Đang lấy mẫu: 4/5 người dùng đạt điều kiện (7 người dùng trong tuần này)
  • Claude Code × GLM: Đang lấy mẫu: 4/5 người dùng đạt điều kiện (7 người dùng trong tuần này)
  • Magpie × Kimi: Đang lấy mẫu: 4/5 người dùng đạt điều kiện (4 người dùng trong tuần này)
  • WorkBuddy × Kimi: Đang lấy mẫu: 3/5 người dùng đạt điều kiện (4 người dùng trong tuần này)
  • DeepSeek Harness × Grok: Đang lấy mẫu: 3/5 người dùng đạt điều kiện (3 người dùng trong tuần này)
  • Claude Code × Other: Đang lấy mẫu: 2/5 người dùng đạt điều kiện (5 người dùng trong tuần này)
  • WorkBuddy × DeepSeek: Đang lấy mẫu: 2/5 người dùng đạt điều kiện (5 người dùng trong tuần này)

Vì sao tỷ lệ trúng cache thấp? Lượt trượt theo nguyên nhân, theo từng client

  • Claude Code × Claude: Nghỉ hơn 5 phút, cache đã hết hạn 37%, Nội dung mới và thay đổi tiền tố trong hội thoại đang diễn ra 23%, Hội thoại mới, hoặc nghỉ hơn một giờ 17%
  • Codex × GPT: Nội dung mới và thay đổi tiền tố trong hội thoại đang diễn ra 57%, Được định tuyến sang tài khoản hoặc endpoint upstream khác 19%, Hội thoại mới, hoặc nghỉ hơn một giờ 16%
  • DeepSeek Harness × Claude: Nội dung mới và thay đổi tiền tố trong hội thoại đang diễn ra 48%, Nghỉ hơn 5 phút, cache đã hết hạn 32%, Hội thoại mới, hoặc nghỉ hơn một giờ 16%
  • DeepSeek Harness × DeepSeek: Được định tuyến sang tài khoản hoặc endpoint upstream khác 44%, Nội dung mới và thay đổi tiền tố trong hội thoại đang diễn ra 30%, Hội thoại mới, hoặc nghỉ hơn một giờ 22%

Vì sao tỷ lệ trúng giảm khi đi qua relay

  • Đổi tài khoản: cache thuộc về tài khoản upstream, nên một lượt được gửi sang tài khoản khác phải ghi lại toàn bộ. Đây là nguyên nhân phổ biến nhất ở relay; kết nối trực tiếp không bao giờ gặp.
  • Chuyển đổi định dạng: chuyển qua lại giữa định dạng Anthropic và OpenAI có thể làm thay đổi tiền tố hoặc làm mất breakpoint cache_control.
  • Claude Code trước v2.1.181, khi dùng base URL tùy chỉnh, chèn một token khác nhau cho mỗi yêu cầu vào khối ghi nhận nguồn ở đầu system prompt, khiến các gateway cache theo nội dung yêu cầu luôn trượt; hãy cập nhật, hoặc đặt CLAUDE_CODE_ATTRIBUTION_HEADER=0.
  • Tự kiểm tra: gửi hai yêu cầu có cùng tiền tố dài hơn độ dài cache tối thiểu; lượt đọc cache của yêu cầu thứ hai phải gần bằng độ dài tiền tố.

Wokey định tuyến các yêu cầu sau của một hội thoại về cùng tài khoản upstream bất cứ khi nào có thể. Từ 2026-10-04 đến 2026-10-10, người dùng Wokey thông thường đạt tỷ lệ trúng 92.8% trên Claude Opus 5.5 tính trên mọi yêu cầu, so với 87.8% của OpenRouter nói chung.

So sánh với tỷ lệ trúng cache của OpenRouter · Trực tiếp: API công khai về tỷ lệ trúng cache của Wokey (7 ngày qua)

Cách chúng tôi đo

  • Các yêu cầu thực tế của người dùng qua gateway Wokey; mỗi thứ Hai lúc 05:00 UTC chúng tôi tính cho tuần trước đó (thứ Hai đến Chủ nhật).
  • Client được nhận diện qua User-Agent của yêu cầu. Các yêu cầu từ SDK, thư viện HTTP và relay phía sau, vốn không rõ client thật, không được tính, tài khoản doanh nghiệp cũng vậy.
  • Một lượt tiếp diễn có cùng mô hình và tài khoản upstream với yêu cầu trước đó trong hội thoại và bắt đầu trong vòng 5 phút sau khi yêu cầu đó kết thúc. Tỷ lệ của mỗi người dùng là đọc cache ÷ đầu vào trên các lượt đó (đầu vào gồm cả đọc và ghi cache); chúng tôi công bố trung vị của những người dùng có ít nhất 20 lượt như vậy trong tuần.
  • Một ô chỉ được công bố khi có ít nhất 5 người dùng đạt điều kiện; thay đổi hơn 3 điểm so với tuần trước sẽ được kiểm tra thủ công trước.
  • Các sai lệch đã biết: chỉ gồm người dùng Wokey; thói quen sử dụng rất khác nhau; tỷ lệ trên mọi yêu cầu bao gồm cả tổn thất định tuyến của chính gateway (nguyên nhân "được định tuyến sang tài khoản upstream khác").

Câu hỏi thường gặp

Tỷ lệ trúng cache bao nhiêu là bình thường?

Trong hội thoại tiếp diễn trên mô hình Claude, người dùng trung vị của các client phổ biến ở mức 95%–98%; tính trên mọi yêu cầu, bao gồm định tuyến, hết hạn và hội thoại mới, thường thấp hơn vài điểm. Dưới 90%, hiếm khi nguyên nhân nằm ở chính client.

Trúng cache và trượt cache nghĩa là gì?

Prompt cache lưu phần đầu không đổi của một yêu cầu: system prompt, định nghĩa công cụ, các lượt trước. Khi yêu cầu tiếp theo bắt đầu giống vậy, phần đó được đọc từ cache (trúng) và tính phí bằng một phần nhỏ giá đầu vào; khi khác đi hoặc cache đã hết hạn, nó được xử lý toàn bộ (trượt) và thường được ghi lại vào cache.

Tỷ lệ trúng cache cao hơn có tốt hơn không?

Càng cao càng tốt. Đầu vào từ cache được tính khoảng 0.1× giá đầu vào (thấp hơn ở một số mô hình mới) và token đầu tiên đến sớm hơn; với gói đăng ký Claude, đọc cache hầu như không tính vào giới hạn của bạn.

Vì sao tỷ lệ trúng cache của tôi thấp như vậy?

Các nguyên nhân thường gặp là yêu cầu bị định tuyến sang tài khoản upstream khác (phổ biến với relay), nghỉ quá 5 phút khiến cache hết hạn, yêu cầu song song như subagent, đổi mô hình và hội thoại mới. Trang của từng client liệt kê chúng theo tỷ lệ đo được, kèm cách xử lý.

Các client có chênh nhau nhiều về tỷ lệ trúng cache không?

Không nhiều. Trên cùng mô hình, Claude Code, pi, OpenCode và các client khác chỉ chênh nhau vài điểm trong hội thoại tiếp diễn. Nhà cung cấp quan trọng hơn: cache của OpenAI yêu cầu toàn bộ tiền tố phải khớp, nên Codex trên GPT thấp hơn các client Claude vài điểm.

Vì sao relay có tỷ lệ trúng cache thấp hơn?

Cache thuộc về tài khoản upstream. Một relay chia một hội thoại cho nhiều tài khoản, hoặc thay đổi tiền tố khi chuyển đổi định dạng, sẽ ghi lại cache hết lần này đến lần khác. Hãy kiểm tra bằng cách gửi hai yêu cầu có cùng tiền tố và xem yêu cầu thứ hai có đọc từ cache khoảng bằng độ dài tiền tố hay không.

Tỷ lệ trúng cache thấp có làm hết giới hạn gói Claude nhanh hơn không?

Có. Theo đo đạc của chúng tôi về giới hạn gói Claude, đọc cache gần như không tốn giới hạn, còn ghi cache được tính gần như đầu vào không cache. Một ngữ cảnh đã cache gần như không tốn gì; ngữ cảnh bị trượt sẽ được tính lại toàn bộ. Giới hạn của từng gói có trong trang giới hạn sử dụng Claude (/claude-usage-limits).

Tỷ lệ trúng cache được tính thế nào?

Token đọc từ cache ÷ token đầu vào, trong đó đầu vào gồm đầu vào không cache, ghi cache và đọc cache. Ở định dạng Anthropic đó là cache_read_input_tokens; ở định dạng OpenAI là cached_tokens.

Vì sao Cline, Roo Code hay Cursor không có trong bảng?

Một ô cần ít nhất 5 người dùng có đủ lượt tiếp diễn trong tuần. Yêu cầu dùng khóa riêng của Cursor đi từ máy chủ của Cursor, nên gateway không thấy được client; các yêu cầu qua SDK và relay cũng không xác định được client.