Nativ:MLX-VLM 開發者新作,在 Mac 上本地運行 AI 模型,提供聊天介面與 API

Nativ:在 Mac 上本機運行 AI 模型,提供聊天介面和 localhost API 服務,類似 LM Studio,對希望在本機開發測試的用戶很有實用價值。

Simon Willison 興奮地分享了 Prince Canuma 的新專案 NativNativ 是一款專為 Mac 用戶設計的 桌面應用程式,旨在支援 AI 模型本地運行。 此專案由開發出優秀 MLX-VLM Python 函式庫的 Prince Canuma 打造,將 MLX 技術整合為完整的 macOS 體驗。 • Nativ 的功能與 LM Studio 類似,它提供直觀的聊天介面,並內建一個 localhost API 伺服器,方便使用者存取模型。 • 特別的是,該應用程式能夠自動偵測並載入使用者在 Hugging Face 快取目錄 中已存在的 MLX 模型

Simon Willison 強調:「我對他這個將 MLX 包裝成完整 macOS 桌面應用程式的新專案感到非常興奮。」


來源:Simon Willison

閱讀原文 ↗
← 回首頁