Tingkat Cache Hit Claude Code

Poin penting

• Angka normal: 98.1%, median dari 343 pengguna dalam percakapan berjalan; separuh di tengah 96.9%–98.8%
• Semua request: 94.6%, termasuk routing, kedaluwarsa, dan chat baru
• Penyebab cache miss terbesar: cache kedaluwarsa, 37% dari cache miss
• Di antara antarmuka: selisih 1.7 poin, CLI (terminal), Aplikasi desktop, Agent lokal desktop

Berapa tingkat cache hit yang normal untuk tiap klien

Minggu 2026-11-03 – 2026-11-09 (UTC)

• Tingkat hit percakapan berjalan (median pengguna): 98.1%
• Separuh pengguna di tengah: 96.9%–98.8%
• Pengguna yang memenuhi syarat: 343 (minimal 20 giliran lanjutan dalam seminggu)
• Tingkat hit dari semua request: 94.6%

Tingkat hit Claude Code per antarmuka

CLI, ekstensi IDE, dan aplikasi desktop dari satu klien mengirim request yang hampir identik, sehingga tingkat hit-nya seharusnya berdekatan.

• CLI (terminal): 98.2% (147)
• Aplikasi desktop: 98.4% (114)
• Agent lokal desktop: 98.0% (78)
• Ekstensi VS Code: 97.8% (50)
• Agent SDK (CLI): 96.7% (43)
• Agent SDK (TypeScript): 97.8% (16)
• t3-code: 97.9% (5)

Tingkat hit Claude Code per versi

Rilis yang mengubah prefiks request menunjukkan tingkat hit yang jelas lebih rendah daripada versi lain, pada minggu rilis itu keluar.

• 2.1.321: 97.6% (5)
• 2.1.319: 98.4% (77)
• 2.1.318: 98.3% (92)
• 2.1.317: 97.9% (133)
• 2.1.316: 98.4% (44)
• 2.1.314: 98.5% (25)
• 2.1.312: 98.0% (20)
• 2.1.311: 98.4% (13)
• 2.1.310: 97.4% (14)
• 2.1.309: 98.3% (98)
• 2.1.308: 98.0% (30)
• 2.1.302: 96.4% (7)
• 2.1.299: 97.6% (6)
• 2.1.296: 98.0% (8)
• 2.1.295: 97.6% (14)
• 2.1.292: 99.0% (5)
• 2.1.284: 97.0% (6)
• 2.1.280: 98.2% (11)

Median mingguan

• 2026-09-29: 96.8% (120 pengguna)
• 2026-10-06: 97.8% (220 pengguna)
• 2026-10-13: 98.0% (256 pengguna)
• 2026-10-20: 98.0% (250 pengguna)
• 2026-10-27: 98.0% (259 pengguna)
• 2026-11-03: 98.1% (343 pengguna)

Kenapa tingkat cache hit Claude Code saya rendah? Cache miss per penyebab

5.4% input minggu ini tidak dibaca dari cache. Berikut rinciannya per penyebab, beserta apa yang bisa Anda lakukan untuk masing-masing.

Jeda lebih dari 5 menit, cache kedaluwarsa: 37% dari cache miss, sekitar 2.0% dari seluruh input

Cache bertahan 5 menit secara default dan setiap hit memperpanjangnya tanpa biaya. Jika Anda sering berhenti lebih lama, setel CLAUDE_CODE_PROMPT_CACHE_TTL=1h (v2.1.242+); tulis cache kemudian berbiaya 2× harga input, bukan 1.25×.

Konten baru dan perubahan prefiks dalam percakapan yang berjalan: 23% dari cache miss, sekitar 1.2% dari seluruh input

Konten yang baru di sebuah giliran hanya bisa ditulis, tidak bisa dibaca. Menghubungkan atau melepas server MCP, atau mengaktifkan plugin yang membawa server MCP, mengubah definisi tool dan membuat cache tidak berlaku.

Percakapan baru, atau menganggur lebih dari satu jam: 17% dari cache miss, sekitar 0.9% dari seluruh input

Request pertama dari percakapan baru, atau request setelah menganggur satu jam, harus menulis cache lagi.

Ganti model: 12% dari cache miss, sekitar 0.6% dari seluruh input

Setiap model punya cache sendiri. Setelah /model, request berikutnya membaca seluruh riwayat tanpa cache hit, meskipun isinya sama persis.

Request paralel (request sebelumnya masih berjalan): 10% dari cache miss, sekitar 0.5% dari seluruh input

Subagent dan pemanggilan tool paralel mengirim request berikutnya sebelum request sebelumnya selesai. Fork di Claude Code membaca cache sesi induk; subagent biasa punya system prompt dan tool sendiri serta membangun cache sendiri.

Dirutekan ke akun atau endpoint upstream lain: 2% dari cache miss, sekitar 0.1% dari seluruh input

Prompt cache tersimpan di akun upstream yang melayani request. Ketika relay atau gateway multi-akun mengirim giliran berikutnya ke akun lain, seluruh konteks ditulis ulang. Koneksi langsung ke vendor tidak pernah mengalami penyebab ini.

Selisih beberapa poin tingkat hit, tagihan berlipat-lipat

Dengan harga resmi Claude Opus 5.5, dan cache miss ditulis ke cache 5 menit, biaya efektif per satu juta token input:

• Median minggu ini, 98.1%: $0.29 (×1.0)
• 90%: $0.68 (×2.3)
• 80%: $1.16 (×4.0)
• 50%: $2.60 (×9.0)

Hitung dengan angka Anda sendiri di kalkulator biaya API Claude

TTL cache Claude Code: berapa lama bertahan dan berapa biayanya

• Cache bertahan 5 menit secara default, dan setiap hit memperpanjangnya tanpa biaya.
• Ubah menjadi 1 jam dengan CLAUDE_CODE_PROMPT_CACHE_TTL=1h (v2.1.242+; CLAUDE_CODE_SUBAGENT_PROMPT_CACHE_TTL untuk subagent), atau ENABLE_PROMPT_CACHING_1H=1 pada versi yang lebih lama.
• Tulis cache berbiaya 1.25× harga input (5 menit) atau 2× (1 jam); baca cache biasanya 0.1×, dan 0.05× pada Opus 5.5 dan Sonnet 5.5.
• Prompt di bawah panjang minimum tidak di-cache tanpa pesan error: 512 hingga 4,096 token, bergantung pada model.

Prompt caching Anthropic · Prompt caching Claude Code · Variabel lingkungan Claude Code

Cara mengecek tingkat cache hit Claude Code Anda

• Jalankan /usage di Claude Code: baris Prompt cache (main) di blok Session menampilkan jumlah request, porsi input yang dilayani dari cache, jumlah cache miss, dan apakah cache masih hangat.
• Skrip status line bisa membaca field prompt_cache; exporter OpenTelemetry melaporkan token baca dan pembuatan cache per pengguna dan sesi.
• Dari API: cache_read_input_tokens ÷ (input_tokens + cache_read_input_tokens + cache_creation_input_tokens).
• Di Wokey, setiap request di log request konsol menampilkan baca cache dan tulis cache-nya.

Biaya dan penggunaan Claude Code

Kenapa tingkat hit turun di balik relay

• Pergantian akun: cache dimiliki akun upstream, sehingga giliran yang dikirim ke akun lain menulis ulang semuanya. Penyebab paling umum pada relay; koneksi langsung tidak pernah mengalaminya.
• Konversi format: menerjemahkan antara format Anthropic dan OpenAI dapat mengubah prefiks atau menghilangkan breakpoint cache_control.
• Claude Code sebelum v2.1.181, pada base URL kustom, menaruh token yang berbeda di setiap request dalam blok atribusi di awal system prompt, sehingga gateway yang meng-cache berdasarkan body request selalu meleset; perbarui, atau setel CLAUDE_CODE_ATTRIBUTION_HEADER=0.
• Uji sendiri: kirim dua request dengan prefiks yang sama dan lebih panjang dari panjang minimum cache; baca cache pada request kedua seharusnya mendekati panjang prefiks.

Wokey sebisa mungkin merutekan request lanjutan dari sebuah percakapan ke akun upstream yang sama. Dari 2026-10-04 hingga 2026-10-10, pengguna biasa Wokey mencapai 92.8% pada Claude Opus 5.5 dari semua request, dibanding 87.8% untuk OpenRouter secara keseluruhan.

Bandingkan dengan tingkat cache hit OpenRouter · Live: API publik tingkat cache hit Wokey (7 hari terakhir)

Cara kami mengukur

• Request nyata pengguna melalui gateway Wokey; setiap Senin pukul 05:00 UTC kami menghitung minggu sebelumnya (Senin sampai Minggu).
• Klien dikenali dari User-Agent request. Request dari SDK, library HTTP, dan relay hilir, yang klien aslinya tidak diketahui, tidak disertakan; begitu pula akun enterprise.
• Giliran lanjutan memiliki model dan akun upstream yang sama dengan request sebelumnya dalam percakapannya dan dimulai dalam 5 menit setelah request itu selesai. Tingkat tiap pengguna adalah baca cache ÷ input pada giliran-giliran tersebut (input mencakup baca dan tulis cache); kami melaporkan median dari pengguna yang punya minimal 20 giliran seperti itu dalam seminggu.
• Sebuah sel dipublikasikan jika punya minimal 5 pengguna yang memenuhi syarat; perubahan lebih dari 3 poin dari minggu lalu diperiksa manual terlebih dahulu.
• Bias yang diketahui: hanya pengguna Wokey; kebiasaan pemakaian sangat beragam; tingkat hit dari semua request mencakup kehilangan akibat routing gateway itu sendiri (penyebab “dirutekan ke akun upstream lain”).

Pertanyaan umum