微軟開源 RAMPART 工具,讓 AI 代理安全測試納入 CI 自動化流程
2026.05.22
微軟開源用於測試 AI 代理安全性的工具 RAMPART,讓工程團隊能把模擬攻擊中發現的問題或實際 AI 事件的風險情境,轉成可反覆執行的自動化測試,並納入持續整合流程。
隨著 AI 代理在企業中的應用日益廣泛,如何持續確保其安全性,成為一項重要課題。微軟宣布開源一款用於測試 AI 代理安全性的工具,名為 RAMPART,目標是讓 AI 代理的安全測試能夠自動化,並融入軟體開發的日常流程。 AI 代理與傳統軟體相比,具有更高的不確定性與更廣的攻擊面。代理能夠自主呼叫工具、存取資料、執行多步驟任務,這也意味著它可能遭遇提示注入、權限濫用、資料外洩等多種風險情境。資安…