一個「極其簡單」的方法：偵測 AI 代理人在長會話中途「忽略指令」的預警信號

作者分享了一個簡單但有效的技巧，透過要求 agent 在每次回覆中稱呼使用者名字，來偵測 agent 是否在中途開始忽略指令，是 agent 開發與調試的實用技巧。

在執行 長時間 AI 代理人會話 時，常遇到代理人會話中途悄無聲息地停止遵循指示的問題，通常發生在上下文記憶體逐漸填滿之際，難以在「脫軌」前察覺。 • 為解決此問題，文章介紹了一個由隊友分享的 「簡單」技巧：要求代理人必須在每個回覆的開頭，以用戶名稱稱呼。這個方法之所以有效，是因為當代理人專注時，遵循此規則毫不費力。 • 一旦代理人停止這樣做，即表示它也可能開始 忽略其他指令。

作者將此比喻為「礦坑裡的金絲雀」：「當鳥兒沉默時，表示有問題」。這項 「預警信號」 的成本極低，且可以輕鬆透過日誌搜尋來監控。 • 該方法被證明是意外可靠的 早期預警機制，能有效提醒用戶會話品質正在下降，應考慮重置上下文。作者也藉此拋出疑問，探詢是否有其他人使用類似的「金絲雀」或「絆腳索」技巧，或監控其他便宜的信號來偵測 「指令漂移」。