使用 Baseten Loops 與 LangSmith 追蹤紀錄進行模型微調

介紹如何結合 LangSmith 追蹤資料與 Baseten 進行開源模型微調的完整工作流。

• LangChain 應研究團隊利用 Baseten Loops 訓練 LangSmith Engine 背後的模型,並在紐約的 Interrupt 26 大會上正式推出 LangSmith Fine-Tuning 功能。 • 透過開源命令列工具 smithtune,開發者能將 LangSmith 的成功運行紀錄轉換為監督式微調資料集,並直接在 Baseten 的專屬 GPU 上進行訓練。 • 訓練過程中使用 Baseten Loops Python SDK,檢查點會直接儲存於 Baseten 中,省去下載與重新上傳權重的繁瑣步驟。 • smithtune CLI 在排程訓練前會自動檢查工作空間支援訓練的模型,確保指令能順利執行,特別適合交由程式碼代理(coding agent)自動化操作。 • 訓練與推論的費用皆直接計入使用者的 Baseten 帳號,並使用自身的 API 金鑰進行管理。

「LangSmith 用戶一直希望能將生產環境的追蹤紀錄轉化為專屬代理模型,我們希望訓練過程能像坐擁數千筆追蹤紀錄那般輕鬆直覺。」 • 目前該專案程式碼已於 GitHub 開源,使用者需具備啟用 Loops 功能的 Baseten 帳號即可開始體驗這條從追蹤到部署的直通捷徑。


來源:Baseten

閱讀原文 ↗
← 回首頁