透過 LLM ATT&CK Navigator 繪製 AI 賦能網路威脅：洞察攻擊模式與風險趨勢

將 AI 驅動的網路威脅映射到 MITRE ATT&CK® 框架，這是一項針對 AI 在網路安全領域應用的具體研究，有助於理解威脅態勢。

Anthropic 的研究深入探討了威脅行為者如何將 AI 武器化 以進行網路攻擊，並將實際攻擊活動映射至 MITRE ATT&CK® 框架。 • 團隊分析了 832 個因違反使用政策而被 Anthropic 禁用的惡意帳戶，發現 AI 模型被用於所有 14 種戰術及 482 種獨特子技術。 • 其中一個關鍵發現是，中等或更高風險的攻擊者比例在研究期間從 33% 大幅上升至 56%，顯示 AI 正在助長更複雜且風險更高的網路操作。 • 研究預警，隨著 代理支架 (agentic scaffolding) 的發展，未來的網路攻擊將實現更高度的自主化，使得區分攻擊者風險等級的傳統依據不再適用。 • 此外，報告指出 MITRE ATT&CK 框架 尚未完全涵蓋 AI 驅動的自主行動，如自主殺傷鏈編排，這對現代威脅情報分類法構成了挑戰。 • 為此，Anthropic 開發了互動式的 LLM ATT&CK Navigator 和 AI 風險啟用分數 (ARiES) 方法，以評估 AI 賦能惡意活動的風險。

作者強調，這些發現預示著低風險與高風險攻擊者之間的分界線不再是技術技能，而是編排能力，呼籲防禦者必須快速演進防禦和檢測機制。