程式碼審查 AI Agent 如何在不確定性下進行決策？探討 PR 風險的機率模型設計

開發者在打造程式碼審查 AI Agent 時面臨核心難題：面對無法直接觀察的 PR 真實狀態，系統該如何有效對不確定性進行機率建模，以決定是否合併、執行更多測試、請求人工審查或終止 PR。

• 作者提出了兩種主要的機率建模方法，各有其優缺點與實作上的挑戰：

• 重疊風險機率（Option 1）：為不同類型的風險（如臭蟲、安全性漏洞、相容性問題）維護各自獨立的機率，但可能面臨重複計算證據的問題。
• 互斥隱藏狀態（Option 2）：定義完整的 PR 狀態使機率總和為 100%，雖然數學上更為清晰，但當多重問題同時存在時，組合會變得過於複雜。

核心問題不在於機率總和是否為 100%，而是應該將機率賦予在什麼樣的概念上，以及如何基於這些機率與錯誤代價來做出最佳行動決策。

• 文章建議將整個架構拆分為兩個獨立的問題來思考：首先是估算不同風險與狀態的機率，其次是在給定機率下選擇最佳行動方案。

• 在正式動手寫程式前，釐清這類機率建模與決策理論的概念模型，有助於讓 AI Agent 在面對不確定性時做出更具原則且穩健的決策。