耗時一年半獨力開發!開源桌面端 AI 助手 Jenny App 正式發布,支援本地 LLM 與完整 IDE

開發者分享花費數月打造私有化本地 LLM 桌面應用的血淚心得與架構反思,具備極高個人開發信號。

• 作者利用一年多的下班與週末時間,獨力開發出基於 Electron 的桌面端應用程式 Jenny。 • 鑑於未來大型模型可能面臨成本補貼消失與服務劣化,作者決定打造一款能私密運行 本地 LLM 的整合工具。 • 此專案採用 MIT 授權條款 完全開源,主打極佳的介面與流暢體驗。 • 內建 工具呼叫(Tool calling)、對話回溯與安全機制,能有效駕馭如 ornith1.5:9b 等小型模型,並具備檔案編輯檢查點和破壞性指令審核。 • 整合了完整的 IDE 與行事曆等助理功能,支援 llama.cpp、vLLM 及各大 OpenAI 相容端點。

作者表示:「這是一個充滿愛但又折磨的個人專案,希望能幫助大家更輕鬆地進行本地 AI 開發。」


來源:r/LocalLLaMA

閱讀原文 ↗
← 回首頁