微軟開源 RAMPART 工具，讓 AI 代理安全測試納入 CI 自動化流程
2026.05.22
微軟開源用於測試 AI 代理安全性的工具 RAMPART，讓工程團隊能把模擬攻擊中發現的問題或實際 AI 事件的風險情境，轉成可反覆執行的自動化測試，並納入持續整合流程。
隨著 AI 代理在企業中的應用日益廣泛，如何持續確保其安全性，成為一項重要課題。微軟宣布開源一款用於測試 AI 代理安全性的工具，名為 RAMPART，目標是讓 AI 代理的安全測試能夠自動化，並融入軟體開發的日常流程。 AI 代理與傳統軟體相比，具有更高的不確定性與更廣的攻擊面。代理能夠自主呼叫工具、存取資料、執行多步驟任務，這也意味著它可能遭遇提示注入、權限濫用、資料外洩等多種風險情境。資安…
