利用本地模型實現 OpenClaw 儲存庫的免費即時問題分類與通知

• 鑑於閉源模型可能隨時被移除，擁有並在本地運行 AI 模型變得至關重要。 • 開發者 Onur 利用手邊硬體，探索如何透過本地模型建立一個即時通知系統，免費且即時地分類與篩選 OpenClaw 專案中數百個傳入的問題與拉取請求 (PR)。 • 該系統採用 Gemma 和 Qwen 等本地模型，結合代理程式框架 (Pi) 執行分類任務，並能產生結構化輸出以分配標籤。 • 為確保安全，代理程式使用特製的 reposhell 工具，這是一個限制型 shell 工具，僅允許對儲存庫進行唯讀操作，有效防止潛在的提示注入攻擊。 • localpager 負責協調整個流程，透過 gitcrawl 收集並正規化問題/PR，由工作程式將上下文轉換為提示，再由 localpager-agent 進行分類。 • 這套半代理架構透過將分類與通知邏輯分離，提升了效率。>「將 GPU 頻寬保留給絕對需要推斷的任務。」 • 實踐證明，本地模型不僅能實現即時通知，還能大幅降低運行成本，為開源專案提供高效且安全的管理方案。