NVIDIA 開放式代理安全平台：實現持續晶片級代理監控的參考架構

隨著 AI 代理 展現出自主執行複雜任務的能力，確保其運行安全與防止失控已成為當務之急，如同早期網際網路發展需要沙盒隔離來建立信任一樣。

• NVIDIA 推出的 Open Agent Safety Platform 旨在建立可靠的信任層，提供核心的獨立安全控制與即時行為監控。 • 平台基於五大核心原則，包含政策可驗證性、頻外強制執行、模型存取路徑控制、推理可視性及共享責任模型。 • 架構涵蓋應用層、運行環境（Runtime）與基礎設施三個層次，確保代理在零信任環境中安全運行。 • 開源的 OpenShell 運行環境透過核心級隔離與沙盒技術，將操作員指令轉化為可驗證政策，有效防止代理行為偏離。 • 透過 NVIDIA Sentry 與 BlueField DPU 硬體整合，實現晶片級的即時監控與身份治理，即使主機資源受損也能提供可信的基礎設施保護。

代理安全需要獨立的安全控制；網際網路之所以安全，不是因為要求開發者自律，而是因為瀏覽器不再無條件信任網頁中的程式碼。