週末打造 LLM 可觀察性平台：單一儀表板透視 AI 呼叫、成本與延遲

分享週末建構的 LLM Observability 平台 LogLens，能記錄 AI 呼叫、成本和延遲，並整合 Claude 等，對開發者管理 AI 應用有極大幫助。

作者為了應對開發 AI 應用時對底層運作缺乏了解的痛點，在一個週末內使用 Claude Code 打造了 LLM 可觀察性平台 LogLens。

作者指出，過去開發 AI 應用時，常對底層運作、成本增長及所有環節缺乏可視性。 • LogLens 僅需一行程式碼即可整合至應用程式中，自動記錄每個 AI 呼叫。 • 它能詳實記錄完整的 提示詞、回應、延遲、token 數量 及成本等關鍵數據。 • 所有收集到的數據都會呈現在一個清晰的儀表板上，方便開發者一目瞭然地掌握應用程式的效能與開銷。 • 此平台開箱即用，支援 Anthropic 和 OpenAI 模型，且不綁定任何開發框架。目前 LogLens 處於早期存取階段，功能已完全運作，作者正積極尋求使用者回饋以進一步改進功能。