Claude 變笨無預警? Reddit 作者分享「金絲雀」策略:無用規則是效能警訊

Reddit 社群分享了一個『canary』機制,利用 Claude 故意設定一個無用的規則,來偵測模型何時開始性能下降並『發明 API』。這是一個非常巧妙且實用的 prompt engineering 技巧,用於監控模型行為。

• 許多使用者發現,Claude AI 在其語境(context)負載過重、開始智能退化時,不會給出任何預警。 • 為此,一位 Reddit 用戶分享了他的獨特策略,透過設置一個 「金絲雀」預警機制 來及時偵測問題。 • 這個機制的核心是一個故意設定的 「無用規則」:要求 Claude 的每個回覆都必須以他的名字開頭。 • 當對話持續進行,一旦 Claude 開始忽略這條無關緊要的指令,例如回覆中不再包含名字,這就是 語境過載 和效能退化的明確早期訊號。 • 作者觀察到這個 「金絲雀」 消失時,便會立即重啟對話階段 (session),防止 AI 進一步出現如「發明 API」等錯誤行為,從而避免浪費寶貴時間。 • > 作者指出:「Claude 捍衛那些重要的規則。那條被丟棄的規則死得最快。」他解釋這種**「無意義規則」**會優先被放棄,使其成為判斷 AI 狀態的有效指標。 • 這種聰明的做法提供了一個實用的解決方案,也引發了其他使用者思考自己的 「金絲雀」策略


來源:r/ClaudeAI

閱讀原文 ↗
← 回首頁