Cursor 推出超快程式碼編輯器:每秒 1,000 個 Token 的極速體驗

探討如何實現每秒 1,000 個 Token 的檔案編輯以解決大型編輯延遲與代理迴圈問題

程式碼編輯器 Cursor 近期針對大型檔案修改的痛點,推出專門訓練的 fast apply 模型,實現每秒約 1,000 個 Token 的極致速度。

• 將寫程式拆解為規劃(Planning)套用(Applying)兩個階段,讓強大的前端模型專注於對話思考,而程式碼修改則交由專門模型瞬間完成。 • 研究發現,語言模型在處理全檔案重寫時表現優於傳統的 diff 格式,能有效避免行號計算錯誤與不必要的程式碼清理。 • 透過合成資料微調 Llama-3-70b 模型,其效能超越 GPT-4 與 GPT-4o,並能與 Claude-3 Opus 媲美。 • 結合專為程式碼編輯量身打造的**推測性解碼(Speculative Edits)**演算法,速度較一般推論大幅提升數倍。

「隨著模型在推理與規劃能力上的增強,低延遲的套用機制將成為建構更精密程式碼生成系統的核心基石。」


來源:Cursor Blog

閱讀原文 ↗

標籤:#cursor

← 回首頁