解決 Claude Code 提示詞快取盲點：我們打造的本地代理 CacheLane 運作機制

CacheLane：修復 Claude Code prompt caching 的盲點，解決了上下文累積導致的 cache miss 和成本問題，是針對特定工具的深度實戰優化方案。

• Anthropic 的 Claude Code 存在一個 提示詞快取 盲點：儘管其原生快取能處理前綴，卻未能有效修剪對話中累積的工具輸出、檔案讀取等「膨脹」內容。 • 此問題導致當上下文超出回溯窗口時，快取會完全失效，迫使使用者支付全額費用及額外 25% 的寫入稅來重新快取。 • 為此，作者與其共同創辦人開發了 CacheLane，這是一個運行於 Claude Code 與 Anthropic API 之間的 本地代理，且確保所有資料不離開使用者機器。 • CacheLane 的核心解決方案包括將上下文分為三個區域，並設置明確且不會漂移的快取斷點。 • 它實施了 K-剪枝 演算法，能將閒置三輪的工具輸出替換為僅 20 個 token 的輕量級「存根」。 • > 作者指出：「Claude 可以在需要時立即恢復這些存根。」這使得 Anthropic API 端只會接收到一個精簡過的前綴。 • 透過此機制，CacheLane 有效修復了 Claude Code 的快取盲點，顯著提升了效率並降低了相關成本。 • 目前，CacheLane 已透過 npm 和 GitHub 開源，讓開發者能改善與 Anthropic 模型的互動體驗。