從前端優化到 Agent 生產環境：打造具備監控與成本熔斷機制的 AI 系統

陳廣亮高質量實作連載完結篇，深入探討前端 Agent 上線的 token 帳單控管、tracing、三層預算熔断與美元熔斷機制，具備頂級實戰價值。

將 AI Agent 從開發環境推進到生產環境，核心挑戰從前端的 bundle 體積轉變為運行時的 token 消耗與成本控管。 • 導入 tracing 機制記錄每次 LLM 與工具呼叫的 span，透過時間軸瀑布圖精準追查線上事故與效能瓶頸。 • 建立包含 token 預算、步數預算、美元熔斷與時間限制的 三層防護網，在達到 90% 預算時主動早停。 • 善用 checkpoint 將訊息序列化落盤，確保熔斷時不僅能守住荷包，還能保留進度以便修正後接續執行。 • 結合定期執行的 評測集（Evaluation） 進行體檢，有效防範沒有報錯卻慢慢變笨的分布漂移現象。

很多器官不是哪一篇憑空造出來的，是早期一行不起眼的日志、一個刻意留著不修的 crash，順著生產的方向慢慢長成的。