Context 是記憶體，記憶是硬碟：給 Agent 上 lazy loading

深入淺出探討 Agent 的 Context 管理與記憶體持久化（Context Engineering/Lazy Loading），附帶實作程式碼架構思維，極具高價值

• Context 是記憶體（RAM），具備貴、小且 session 結束即失的特性；而記憶則是硬碟，具備便宜、大且需要明確 I/O 的特性。 • 在 Agent 的世界中，所有長期記憶都必須透過工程手段實現，核心包含：存入、索引、檢索與回填四個步驟。 • RAG 的本質就是按需 import()，透過關鍵詞檢索或向量技術，將需要的片段在執行時動態載入 Context 中。 • 作者在 tiny-agent v0.5 實作中，使用一個簡單的 MEMORY.md 搭配 remember 與 recall 工具，實現了極低成本的長期記憶。 • 寫入記憶時應遵守「記結論不記過程、記為什麼不記是什麼」的紀律，避免記憶檔案膨脹成垃圾場。 • 透過將最近的幾筆記憶常駐於 system 提示詞，較舊的記憶則透過工具按需檢索，能有效平衡成本與模型表現。

把記憶當作備忘錄而不是儀表盤，記憶告訴你該去哪裡找，現場的工具執行結果才告訴你真實狀態。