LLM Studio:開源 3D 視覺化工具,互動探索 Transformer 架構與即時 LLM 推論,誠徵貢獻者
r/LLMDevs 分享一個開源的 3D 視覺化工具,用於 Transformer 架構和 LLM 推理,並尋求貢獻者,具有開發者工具的實作價值。
「LLM Studio」是一個新推出的開源平台,旨在透過 互動式 3D 視覺化 的方式,協助使用者探索 Transformer 模型。 它取代了傳統的靜態圖表,能夠呈現 真實的模型架構、張量 (tensors) 和正向傳遞 (forward passes)。 核心功能包括: • 互動式 3D 架構探索器 • 即時推論視覺化 • 張量檢查器 • 涵蓋 分詞、嵌入、LayerNorm、自注意力、MLP、Softmax 與輸出 等教育性導覽 • 支援 GGUF 模型。 未來規劃將擴展至更多模型架構(如 Llama, Gemma, Phi, Mistral 等)、更精良的注意力視覺化,以及 活化 (Activation) 與 KV 快取檢查 等功能。
作者正積極尋求對 LLM 與 Transformer 內部機制、AI 基礎設施、PyTorch、FastAPI、React/Next.js、Three.js/React Three Fiber、UI/UX 視覺化與技術文件撰寫感興趣的 貢獻者。 無論是貢獻程式碼、審查、提供功能建議或分享回饋,作者都十分感謝。
來源:r/LLMDevs
閱讀原文 ↗