開源 AI 代理迴圈守衛與行動成本總帳:智能阻擋重複失敗,有效節省預算
開源了一個 loop guard + per-action cost ledger,用於識別並終止重複的 agent 行為,解決了 agent 浪費預算的問題,提供了具體的本地執行工具和實戰經驗。
為了解決 AI 代理 反覆執行相同失敗動作、導致預算浪費的問題,一款開源的 迴圈守衛(loop guard) 與 逐行動成本總帳(per-action cost ledger) 工具應運而生。 • 該 迴圈守衛 透過 工具(tool) 及 標準化參數(normalized args) 進行 指紋識別(fingerprints),能有效偵測並中斷即使是重新措辭的重複嘗試。 • 它在預算上限觸發前,便能於第 N 次重複時立即中斷迴圈,從根本上避免了資源的重複消耗。 • 逐行動代幣歸因(Per-action token attribution) 功能提供清晰的成本記錄,簡化了失敗後的分析過程。
作者強調此功能讓「事後分析成為一個直接可讀的欄位,而非凌晨兩點的日誌搜尋。」 • 本工具可完全在本地運行,透過
pip install orkaia即可輕鬆安裝,無需金鑰、註冊或任何資料外傳,並採用 MIT 授權。 開發者歡迎各方回饋,並表示接下來將致力於解決諸如 A→B→A→B 循環震盪等更複雜的迴圈偵測邊緣情況。
來源:r/LLMDevs
閱讀原文 ↗