DeepMind 重磅發布 AutoHarness:AI 學會「自我編程」,終結手寫智能體駕馭系統時代!
Tony Bai 報導了 Google DeepMind 在自動化 Agent Harness 方面的研究,指出 AI 已能自己編寫 Harness。這項研究顛覆了以往手動構建 Harness 的模式,對未來的 Agent 開發方法論有重大影響,是高價值的實踐指導。
• DeepMind 近期發表了 AutoHarness 論文,揭示 AI 已能為自身自動編寫「智能體駕馭系統」(Agent Harness),挑戰傳統上由人類工程師手動編寫規則護欄的模式。 • 文章指出,即使頂級 AI 如 Gemini 2.5 Flash 在沒有護欄時,高達 78% 的失敗來自於嘗試**「非法步驟」,凸顯大型語言模型在「規則遵守能力」上的不足。 • AutoHarness 透過「自我進化」閉環運作:AI 在遊戲環境中試錯,接收「批評家」的錯誤反饋,再由「精煉器」(同樣由 LLM 擔任)迭代修正其策略代碼。 • 實驗顯示,AutoHarness 在 145 個文本遊戲中平均僅需 14.5 次迭代即可達到 100% 的合法走步準確率,甚至使裝備護欄的小模型能「以弱勝強」,戰勝更強大的未受引導模型。 • 甚至,AI 生成的純 Python 代碼(Harness-as-Policy)在某些遊戲中超越了 GPT-5.2-High 的表現,證明了「護欄」的重要性**。 • 這項突破促使人類工程師的角色從「手作匠人」轉變為**「環境設計師」和「評估體系架構師」,著重於設計能讓 AI 自我學習和從錯誤中學習的環境。 • > 作者 Tony Bai 認為:「當 AI 能寫 Harness 時,我們人類的終極護城河,就變成了定義『什麼是好的 Harness』的能力。」 • AutoHarness 象徵著從「教 AI 做事」到「教 AI 學習」**的範式轉移,開啟了 AI 遞歸式自我改進的無限可能。
來源:Tony Bai
閱讀原文 ↗