Nativ:MLX-VLM 開發者新作,在 Mac 上本地運行 AI 模型,提供聊天介面與 API
Nativ:在 Mac 上本機運行 AI 模型,提供聊天介面和 localhost API 服務,類似 LM Studio,對希望在本機開發測試的用戶很有實用價值。
Simon Willison 興奮地分享了 Prince Canuma 的新專案 Nativ。 Nativ 是一款專為 Mac 用戶設計的 桌面應用程式,旨在支援 AI 模型 的 本地運行。 此專案由開發出優秀 MLX-VLM Python 函式庫的 Prince Canuma 打造,將 MLX 技術整合為完整的 macOS 體驗。 • Nativ 的功能與 LM Studio 類似,它提供直觀的聊天介面,並內建一個 localhost API 伺服器,方便使用者存取模型。 • 特別的是,該應用程式能夠自動偵測並載入使用者在 Hugging Face 快取目錄 中已存在的 MLX 模型。
Simon Willison 強調:「我對他這個將 MLX 包裝成完整 macOS 桌面應用程式的新專案感到非常興奮。」
來源:Simon Willison
閱讀原文 ↗