代理循環編碼：錯誤越「響亮」，AI 偵錯越有效

作者觀察到 AI 代理（Claude）成功自我偵錯了一項分頁錯誤，因為當時的錯誤訊息清晰響亮。 然而，同一週它卻「修正」了一個快取錯誤，儘管測試通過，實際行為卻仍錯誤，AI 因此未能察覺，這種情形被稱為「靜默失敗」。 這一經驗讓作者深刻體會到，代理循環編碼 僅在失敗夠響亮 的情況下才能有效運作。 • 具備實際信號的明確錯誤和測試是關鍵，AI 對於靜默失敗、錯誤的業務邏輯或競態條件完全無法識別。

作者表示：「代理循環編碼的關鍵在於，只有當失敗足夠響亮時，這個循環才能奏效。」 為此，作者現在投入大量精力於讓失敗變得響亮，包括撰寫更好的錯誤訊息，以及能真正斷言行為而非僅僅運行的測試。 這種為 AI 除錯而撰寫測試的策略，雖然看似本末倒置，卻大幅提升了 AI 獨立運行的能力和範圍。 作者仍在持續探索，面對更複雜的任務時，AI 代理的自我偵錯能力界限究竟在哪裡。