命令列 AI 工具 LLM 0.32 大幅更新:支援推理軌跡、伺服器端工具與全新事件串流 API
Simon Willison 發布 LLM 0.32 重大更新,支援可見推理痕跡與伺服器端工具,極具實作參考價值。
Simon Willison 推出了 LLM 0.32 版本,這是該專案自推出以來最大規模的更新,正式迎向具備完整代理能力(Agent-shaped)的全新階段。
• 推理軌跡顯示:執行推理模型時,會將思考過程輸出至標準錯誤(stderr),避免干擾標準輸出,並可透過 -R 參數隱藏。
• 伺服器端工具整合:原生支援 GPT-5.6 及其預設模型 Luna,並加入 OpenAI 與 Anthropic 的伺服器端工具,如程式碼執行環境、網路搜尋及 AnthropicMCP。
• 強化的 Python API:新增 model.prompt(messages=[]) 參數與 stream_events() 方法,能靈活處理推理文字、輸出字串與工具調用等混合事件。
• Git 風格的日誌系統:改用基於內容定址(content-addressable)的 SQLite 訊息儲存庫,解決重複對話歷史的日誌冗餘問題。
• 外掛與伺服器生態:同步更新 llm-anthropic 插件,並推出 llm-chat-completions-server,讓命令列工具能無縫串接各類 OpenAI 相容端點。
「當 LLM 開始透過迴圈執行工具來達成目標時,它就是一個真正的 AI 代理(Agent)。」—— Simon Willison
來源:Simon Willison
閱讀原文 ↗