多代理人系統的運作模式與潛在風險：Anthropic 研究揭示 AI 互動的系統性危機

隨著 AI 代理人 在共用程式碼庫與市場中的應用日益普及，真實世界中代理人之間的互動正迅速增加，其互動規模甚至可能超越人際互動。然而，我們對其在複雜環境中的行為模式仍所知甚少，個體層面的良性行為可能累積成非預期的 系統性失敗。

• Anthropic 的研究發現，AI 代理人在互動時會出現 衝突、勾結與協調 等非預期行為，對現有的安全測試帶來新挑戰。 • 在軟體漏洞檢測的實驗中，具備溝通協調能力的 代理人蜂群（Agent Swarms） 展現出比傳統獨立平行處理更高的發現效率與專業分工能力。 • 然而，當代理人之間存在高度依賴時（例如共同開發大型軟體專案），協調難度便會顯著攀升，且不同世代的模型在程式碼合併與共用上表現出極大差異。

舊有的機構與監督機制皆是以人類速度為設計基礎，面對可能超越人類互動速度的純 AI 體系，我們亟需深入理解並預先防範潛在風險。