你的 AI 為何笨拙，我的卻不然？情境工程大師班揭密

文章指出，AI 表現不佳的根本原因不在於提示詞寫得不夠好，而是缺乏精心設計的 資訊生態系，即 情境工程。 與每次從零開始的傳統提示工程不同，情境工程 旨在為 AI 打造一個動態、學習與適應的「大腦」，使其能記住、理解並利用多層次的資訊情境。 成功的 情境工程 涵蓋多個關鍵步驟，包括設計使用者、會話、企業、外部與歷史等多層次情境，並強調「相關性勝過數量」。 • 這還包含採用 動態檢索（如 Agentic RAG）實現即時數據獲取，建立涵蓋工作記憶到語義記憶的 五層記憶系統 以確保 AI 持續學習。 • 此外，透過 多代理人情境共享 模式，讓專業代理人協同運作，並運用 RCTC 框架（角色、情境、任務、限制）編寫結構化指令。 為優化成本並確保系統品質，應實施智能壓縮策略減少 token 使用，並利用「LLM 作為評審」來評估輸出，持續追蹤相關性與幻覺率等指標。

文章強調，「工具整合比模型大小更重要」，一個擁有出色情境工程的較小模型，其表現可能超越情境處理不佳的大型模型。 另一個黃金法則則是「即時性與相關性勝過完整性」，現有的相關數據總是比龐大但過時的資訊更具價值。