我遭遇過最詭異的 AI 記憶體層 Bug：越空洞就越自信

• 作者在為 AI 代理開發記憶體層（Memory Layer）時，發現了一個極其隱蔽且危險的 Bug：當資料庫儲存的候選事實越少，系統反而表現得越有自信。 • 透過建立六個「被動手腳的測試房間」來模擬生產環境中的異常狀況，結果發現多數基準測試往往假設環境健全，忽略了邊界條件帶來的風險。 • 當記憶體中僅剩一或兩個候選物件時，因缺乏足夠的樣本分佈來計算不確定性，導致系統對未曾輸入的內容產生無限的虛構自信。 • 作者透過分析資料分佈找到了一個巧妙的門檻解法，但代價是犧牲了兩個原本正確的答案。 • > 「一個剛啟動、或是剛被清空的儲存區，竟然對所有事情都充滿極高的自信，這才是最致命的盲點。」 • 這種「記憶越少、信心越高」的缺陷在實際部署中極為常見，特別是在系統剛初始化或剛執行刪除請求的時刻。