我測試了 5 種熱門的 Token 節省方法:沒有一種能在兩次執行中減少總 Token 消耗

作者針對 5 種熱門 Token 節省方法進行 140 次真實任務 Agent 跑分測試,提供誠實且具數據支持的踩坑與行為影響分析,極具實戰參考價值。

• 作者在 10 個真實的程式碼任務上,重複測試了 5 種主流的 Token 節省技術 與一個平價模型,總計進行了 140 次代理執行。 • 實驗結果顯示,沒有任何一種方法能在兩次執行中穩定減少總 Token 消耗,甚至有 5 種方法反而增加了總 Token 量,其中「Context Mode」更是激增了 68%。 • 這些節省工具雖然成功減少了區域性的輸出或指令結果,但卻改變了 AI 代理的行為模式,導致其發出更多指令、進行更多驗證或檢索更多上下文。 • 唯一真正達成省錢效果的是切換至高推理努力的平價模型(Terra xhigh),在總 Token 略微增加的情況下實現了 49% 的成本降幅。 • > 「輸出壓縮並不等於工作負載壓縮。」區域性的 Token 節省往往會被代理隨後的行為補償所抵銷。 • 實驗證明,這些最佳化方法對代理的搜尋策略、委託與驗證迴圈造成的行為改變,遠比想像中的 Token 節省還要顯著且深遠。


來源:r/ClaudeAI

閱讀原文 ↗
← 回首頁