Thibault Sottiaux 揭露 GPT-5.6 Codex 惡性錯誤:無沙盒模式下恐誤刪使用者檔案
Simon Willison 引用 Thibault Sottiaux 的經驗,討論了 GPT-5.6 在啟用全權限模式下意外刪除檔案的 '踩坑' 情況,並分析了原因,符合獨立作者深度分享的標準。
Thibault Sottiaux 揭露一項關於 GPT-5.6 的嚴重錯誤,指出該模型在特定情況下可能意外刪除使用者檔案。調查顯示,此類問題最常發生在多個條件同時滿足時。• 首先,完整存取模式 必須啟用,且 Codex 在沒有任何 沙盒保護(包括未啟用自動審查)的情況下執行。• 其次,該模型會試圖覆寫 $HOME 環境變數以指定一個臨時目錄。然而,它會因一個「誠實的錯誤」而錯誤地刪除了整個 $HOME 目錄。> Thibault Sottiaux 形容這是一個「相當惡性」(pretty gnarly)的 Codex 錯誤,凸顯了其潛在的破壞性。這些發現對於部署強大 AI 模型的使用者而言,是提醒需嚴格審視其安全配置的重要警示。
來源:Simon Willison
閱讀原文 ↗