透過 Auto-review 控管 AI 代理自主性：平衡安全性與開發效率

• Cursor 推出了全新功能 Auto-review，讓 AI 代理在低風險時自由運作，在高風險時自動放慢速度，將代理自主性改為連續性的動態調節。 • 系統的核心設計是一個專門的 分類器代理（Classifier agent），它會在工具執行前評估動作風險，判斷該動作是否符合使用者的真實意圖。 • 為了兼顧效能與準確度，開發團隊選擇了小型且具備足夠推理能力的模型，並賦予其使用 workspace 工具（如 ReadFile、Grep 等）來檢視工作區的代理能力。 • 當分類器攔截潛在風險動作時，它不會直接打擾使用者，而是將詳細的解釋回饋給父代理，讓 AI 自行修正路徑並選擇更安全的作法。 • 透過內部使用數據與合成資料進行嚴格的 評估與測試（Evals），團隊成功將攔截機制最佳化，避免過多的彈出審核破壞開發體驗。

目標是讓代理擁有真正的自主性，而不是退化成一連串打斷工作的權限批准提示。 • 目前 Auto-review 已成為新用戶的預設設定，現有用戶也能在設定中手動啟用，藉此在不犧牲安全性的前提下提升 AI 程式碼編寫效率。