「決定性摺疊」：LLM 代理的連續性引擎，兼顧效率與準確性，告別超長上下文與模型壓縮

Context Warp Drive：一個確保 LLM agent 在長期任務中保持連續性的引擎，避免了 LLM 總結的缺點，提供了一種新的、更可靠的上下文管理方法，是重要的實戰方法論。

現有 LLM 代理處理長上下文任務時，主要依賴超大上下文視窗或透過 LLM 進行摘要壓縮，但這兩種方法皆存在顯著缺陷。LLM 摘要往往不一致、額外消耗模型資源，且容易丟失關鍵識別碼；而巨型上下文視窗則因模型在長語境下的效能退化，無法有效運用所有資訊。文章介紹了開源專案 Context Warp Drive，提出全新的決定性摺疊 (deterministic folding) 方法，旨在為 LLM 代理提供連續性，同時保持高效與專注。其核心機制包括： • Rebirth Seed：結構化、確定性的快照，實現無縫恢復。 • Cache-Hot Appending：舊語境摺疊為緊湊區塊，利用快取廉價讀取。 • Sawtooth Reset：上下文達上限時，重置回清新 Rebirth Seed。 • Zero-LLM Folding：直接摺疊原始歷史，保留精確識別碼，無需額外 LLM。 • Episodic Recall：按需調回過去的相關細節。此外，Task Rail 可將多步驟工作流的計畫狀態存放在提示外部。

作者認為，應將 1M 視窗作為安全裕度而非操作範圍，決定性摺疊讓代理像使用分頁工作集般處理上下文，保持輕巧、高效、可恢復，並始終基於原始追蹤。