RAG 多輪對話優化：查詢改寫是提升準確度的最高槓桿提示

• 在多輪對話的 RAG（檢索增強生成）管線中，提高準確度最有效的方法，並非答案提示或重排序器，而是嵌入前改寫使用者查詢的「縮寫提示」。 • 當使用者進行追問時，其訊息往往缺少主語，且主語可能由機器人而非使用者提及。 • 若直接嵌入此類不完整查詢（例如「費用明細呢？」），RAG 會檢索到錯誤資訊，導致模型無法正確回答。 • 查詢改寫提示的運作方式： • 取得使用者最新訊息與先前的對話（限長度）作為上下文。 • 指示其將最新訊息改寫為一個獨立、完整的問題，並解決代詞和實體指涉。 • > 作者指出，此提示能將「費用明細呢？」改寫為「[機器人提及的地點]的費用明細是什麼？」，從而檢索到正確的區塊。 • 實踐中的防護措施包括：若訊息已完整則不改動；若為純粹閒聊則直接傳遞；絕不增加對話中不存在的事實。 • 雖然非 LLM 的簡單拼接也能捕捉大部分效益，但 LLM 驅動的改寫能真正地消除歧義，而非僅僅堆疊上下文。 • 文章最後也探討了如何有效編寫此類縮寫提示，以避免其「幫倒忙」地回答問題或在語義模糊時發明主語。