解決 AI 長篇生成內容前後矛盾:借鑑時鐘校驗季節的層次化策略
討論如何在長篇生成中避免模型前後矛盾,透過將 Context 視為 State 並全量重渲染,這是一個關於 LLM 記憶和 State 管理的深度實戰技巧。
文章探討 AI 在長期生成內容中維持內容一致性的挑戰,常見於多章小說、知識庫或代理人對話紀錄等。 核心問題是模型容易在後期遺忘細節、推翻早期承諾,導致前後矛盾,例如人物特徵消失、傷口不合理癒合與復發、季節錯誤漂移。 作者提出一套解決方案,其核心在於將事實結構化儲存為帶有鍵值的表格行,而非自由散文,使矛盾能透過查詢而非重讀被發現。 • 該方案採用分層檢查機制:
- 第一層進行零成本的 O(1) 查詢以篩選潛在衝突。
- 第二層使用低成本的模型呼叫,專注檢查少數候選衝突,提升精確度並節省 tokens。
- 第三層則是最終的人工審閱,捕捉結構無法識別的細節。 對於數值型與週期性資料(如季節、時間進程),應將其錨定於絕對時間點進行算術檢查,而非僅比較相鄰狀態,以避免隱性漂移。
作者強調:「一個季節是循環的,所以你不能將它與自身對照。你應該將它與時鐘對照。」 此外,遵循「僅附加原則」(不覆寫事實)並「標記錯誤根源」有助於更有效地追蹤與修正問題。 作者也發現,最嚴重的錯誤往往來自上游輸入驗證的不足,例如截斷的輸出被視為完整,或實體解析錯誤,導致後續所有聰明的檢查都在驗證錯誤的數據。
來源:r/PromptEngineering
閱讀原文 ↗